Проблемы бинарной логики, или Почему ИИ — просто усовершенствованный калькулятор
Искусственный интеллект не защищен от ошибок. Ведь он — создание человеческого разума, а наше мышление — это скопище ошибок и заблуждений. Да, наши суждения часто ошибочны. Даже если мы очень стараемся судить объективно, мы всё равно обречены на стереотипное мышление и далеко идущие неаргументированные выводы. Однако ошибки ИИ вовсе не такие. Он ошибается не по причине субъективности, а из-за самой сути алгоритмического мышления. Во всём виновата бинарная логика.
Бинарная логика основана на двух утверждениях: истина (логическая единица) или ложь (логический нуль). Благодаря такому простому механизму возможно быстро и эффективно проводить вычисления. Чтобы машина могла понимать печатные символы и алфавит, используется кодировка ASCII (American Standard Code for Information Interchange). С ее помощью привычный человеку текст переводится в понятные машине нули и единицы.
Однако это не означает, что машина понимает мир и слова так же, как и мы. Нам приходится пользоваться бинарной логикой, чтобы общаться с машиной, но машина не может говорить с нами, пользуясь человеческими мыслительными процессами.
Мы не мыслим нулями, единицами и исключительно количественными категориями. Мы оперируем деталями, контекстами, разными измерениями, динамикой процессов, ценностями и богатством опыта.
Но самое интересное во всём этом, что бинарная логика — это вовсе не изобретение сумасшедших инженеров начала XX века. За бинарную логику стоит говорить спасибо Аристотелю.
Бинарная логика и сексизм Аристотеля
Что? Аристотелю? Отцу демократии и великому философу? За вот эту ущербную машинную логику?
Вообще да, именно ему и его теории дуализма. За 350 лет до нашей эры Аристотелю захотелось сделать мир проще и понятнее. За основу он взял пифагорейскую таблицу противоположностей, которая выглядела примерно так:
Пифагор с помощью этой таблицы демонстрировал, что числа — это не про количество единиц, а про некую силу и вектор ее направления.
Аристотель посмотрел на нее и подумал: ведь разделение на противоположности работает и с людьми, и с животными, и с обществом. Кто-то занимает один полюс, а кто-то — другой. Кто-то прав, а кто-то виноват. Кто-то добр, а кто-то зол.
Аристотель соорудил на фундаменте дуализма иерархическую систему и снабдил ее собственными представлениями о носителях одной полярности (со значением «1») и другой (со значением «0»). Ну, к примеру:
Вот такой сексизм 2000-летней давности.
Если бы Аристотель прислушивался к своим предшественникам, Сократу и Платону, он бы, возможно, не был бы так уверен в подчиненном положении женщин и ущербности их разума, и право голоса женщины получили бы не в начале XX века, а гораздо раньше.
В диалоге Платона «Пир» Сократ с большим уважением отзывался о мудрости жрицы Диотимы из Мантинеи, а в Книге 5 «Государства» он говорит, что управлять городом с равным успехом может и мужчина, и женщина.
Тем не менее именно аристотелевская логика легла в основу западной мысли и продолжает пускать ростки стереотипов и предубеждений.
Бинарная логика Декарта и китайская ошибка Лейбница
Эстафетную палочку Аристотеля перехватили в XVII–XVIII веках Декарт и Лейбниц. Декарт, изобретатель афоризма «Я мыслю, следовательно, я существую», зародил идею о том, что любой субъект имеет только ту ценность, которую ему приписывает наблюдатель.
Кроме того, рассуждения Декарта продолжали тенденцию отделения разума от телесных и чувственных проявлений: в «Размышлениях о первой философии» ученый отнес разум к миру идеального, а тела и чувства — к миру материального, где эти два мира не пересекаются.
Плюс Декарт был разочарован несистемными методами, которыми пользовались математики в его время и разработал дедуктивно-индуктивную логику, основы которой изложил в «Рассуждениях о познании». Математика в представлении Декарта должна иметь крепкий фундамент, и в качестве него он использовал аристотелевскую бинарную логику (1 = истина = действительно, 0 = ложь = недействительно), только упаковал ее в древовидную структуру. Теперь она используется в нейросетях при обработке естественных языков.
Немецкий мыслитель и юрист Лейбниц, создатель математического анализа (одновременно с Ньютоном), разработал бинарную модель счисления как быстрый способ получать готовые расчеты.
Интересно, что Лейбниц был ярым китаистом. В 1703 году священник Буве высылает мыслителю копию «Книги перемен» («И Цзин»), древний китайский философский текст. Книга состоит из 64 гексаграмм, в которых Лейбниц уловил сходство с собственными бинарными таблицами и пришел в восторг.
В одних гексаграммах Лейбниц увидел нули, а в других — единицы, что утвердило его в мысли о том, насколько бинарная логическая система универсальна и всеобъемлюща.
Вот только Лейбниц ошибся: во-первых, он рассматривал гексаграммы, перевернув их вверх ногами. Во-вторых, он не учел, что каждая гексаграмма соответствовала определенному описанию на китайском. В третьих, каждая из них представляла собой запись двух противоборствующих энергий — положительной и негативной, инь и ян.
В любом случае и Лейбниц, и Декарт сделали свой вклад в развитие западного мышления, замкнутого в противоестественной дуальной логике.
Бинарная логика сегодня
На бинарной логике построены все современные системы данных. Нулями и единицами пронизаны любые действия, которые производятся сегодня в цифровом поле. Вот, например:
Машина лишь регистрирует, какой выбор сделал человек, и дает соответствующую реакцию, выбирая из двух вариантов.
Бинарная логика не предоставляет пространства для моделирования причин принятия подобных решений. Мы собираем черно-белые данные, сортируя их по оттенкам серого, когда мир вокруг — это целая радуга.
Окружающий нас мир не терпит бинарности. Частицы в квантовой суперпозиции могут быть одновременно и нулем, и единицей. Взаимосвязи между явлениями и свойствами богаче и неоднозначнее, чем чёт и нечет.
Бинарностью легко оперировать, но в таком случае нам стоит смириться с тем, что искусственный интеллект так и останется усовершенствованной моделью калькулятора.