Это не «Черное зеркало». Тест о новых технологиях

Проблемы бинарной логики, или Почему ИИ — просто усовершенствованный калькулятор

Искусственный интеллект не защищен от ошибок. Ведь он — создание человеческого разума, а наше мышление — это скопище ошибок и заблуждений. Да, наши суждения часто ошибочны. Даже если мы очень стараемся судить объективно, мы всё равно обречены на стереотипное мышление и далеко идущие неаргументированные выводы. Однако ошибки ИИ вовсе не такие. Он ошибается не по причине субъективности, а из-за самой сути алгоритмического мышления. Во всём виновата бинарная логика.

Бинарная логика основана на двух утверждениях: истина (логическая единица) или ложь (логический нуль). Благодаря такому простому механизму возможно быстро и эффективно проводить вычисления. Чтобы машина могла понимать печатные символы и алфавит, используется кодировка ASCII (American Standard Code for Information Interchange). С ее помощью привычный человеку текст переводится в понятные машине нули и единицы.

Однако это не означает, что машина понимает мир и слова так же, как и мы. Нам приходится пользоваться бинарной логикой, чтобы общаться с машиной, но машина не может говорить с нами, пользуясь человеческими мыслительными процессами.

Мы не мыслим нулями, единицами и исключительно количественными категориями. Мы оперируем деталями, контекстами, разными измерениями, динамикой процессов, ценностями и богатством опыта.

Но самое интересное во всём этом, что бинарная логика — это вовсе не изобретение сумасшедших инженеров начала XX века. За бинарную логику стоит говорить спасибо Аристотелю.

Бинарная логика и сексизм Аристотеля

Что? Аристотелю? Отцу демократии и великому философу? За вот эту ущербную машинную логику?

Вообще да, именно ему и его теории дуализма. За 350 лет до нашей эры Аристотелю захотелось сделать мир проще и понятнее. За основу он взял пифагорейскую таблицу противоположностей, которая выглядела примерно так:

Конечность — бесконечность
Чёт — нечет
Единство — множество
Правый — левый
Покой — движение
Прямой — кривой
Добро — зло
и т. д.

Пифагор с помощью этой таблицы демонстрировал, что числа — это не про количество единиц, а про некую силу и вектор ее направления.

Аристотель посмотрел на нее и подумал: ведь разделение на противоположности работает и с людьми, и с животными, и с обществом. Кто-то занимает один полюс, а кто-то — другой. Кто-то прав, а кто-то виноват. Кто-то добр, а кто-то зол.

Аристотель соорудил на фундаменте дуализма иерархическую систему и снабдил ее собственными представлениями о носителях одной полярности (со значением «1») и другой (со значением «0»). Ну, к примеру:

1 = истина = разум = правый = мужчина
0 = ложь = чувства = левый = женщина

Вот такой сексизм 2000-летней давности.

Если бы Аристотель прислушивался к своим предшественникам, Сократу и Платону, он бы, возможно, не был бы так уверен в подчиненном положении женщин и ущербности их разума, и право голоса женщины получили бы не в начале XX века, а гораздо раньше.

В диалоге Платона «Пир» Сократ с большим уважением отзывался о мудрости жрицы Диотимы из Мантинеи, а в Книге 5 «Государства» он говорит, что управлять городом с равным успехом может и мужчина, и женщина.

Тем не менее именно аристотелевская логика легла в основу западной мысли и продолжает пускать ростки стереотипов и предубеждений.

Бинарная логика Декарта и китайская ошибка Лейбница

Эстафетную палочку Аристотеля перехватили в XVII–XVIII веках Декарт и Лейбниц. Декарт, изобретатель афоризма «Я мыслю, следовательно, я существую», зародил идею о том, что любой субъект имеет только ту ценность, которую ему приписывает наблюдатель.

Кроме того, рассуждения Декарта продолжали тенденцию отделения разума от телесных и чувственных проявлений: в «Размышлениях о первой философии» ученый отнес разум к миру идеального, а тела и чувства — к миру материального, где эти два мира не пересекаются.

Плюс Декарт был разочарован несистемными методами, которыми пользовались математики в его время и разработал дедуктивно-индуктивную логику, основы которой изложил в «Рассуждениях о познании». Математика в представлении Декарта должна иметь крепкий фундамент, и в качестве него он использовал аристотелевскую бинарную логику (1 = истина = действительно, 0 = ложь = недействительно), только упаковал ее в древовидную структуру. Теперь она используется в нейросетях при обработке естественных языков.

Немецкий мыслитель и юрист Лейбниц, создатель математического анализа (одновременно с Ньютоном), разработал бинарную модель счисления как быстрый способ получать готовые расчеты.

Интересно, что Лейбниц был ярым китаистом. В 1703 году священник Буве высылает мыслителю копию «Книги перемен» («И Цзин»), древний китайский философский текст. Книга состоит из 64 гексаграмм, в которых Лейбниц уловил сходство с собственными бинарными таблицами и пришел в восторг.

В одних гексаграммах Лейбниц увидел нули, а в других — единицы, что утвердило его в мысли о том, насколько бинарная логическая система универсальна и всеобъемлюща.

Вот только Лейбниц ошибся: во-первых, он рассматривал гексаграммы, перевернув их вверх ногами. Во-вторых, он не учел, что каждая гексаграмма соответствовала определенному описанию на китайском. В третьих, каждая из них представляла собой запись двух противоборствующих энергий — положительной и негативной, инь и ян.

В любом случае и Лейбниц, и Декарт сделали свой вклад в развитие западного мышления, замкнутого в противоестественной дуальной логике.

Бинарная логика сегодня

На бинарной логике построены все современные системы данных. Нулями и единицами пронизаны любые действия, которые производятся сегодня в цифровом поле. Вот, например:

Свайп вправо = 1, свайп влево = 0
Поставили лайк =1, не поставили = 0
Кажется, пользователь испытывает положительные эмоции = 1, отрицательные = 0
Группируем объекты по красному цвету: яблоко = 1, апельсин = 0

Машина лишь регистрирует, какой выбор сделал человек, и дает соответствующую реакцию, выбирая из двух вариантов.

Бинарная логика не предоставляет пространства для моделирования причин принятия подобных решений. Мы собираем черно-белые данные, сортируя их по оттенкам серого, когда мир вокруг — это целая радуга.

Окружающий нас мир не терпит бинарности. Частицы в квантовой суперпозиции могут быть одновременно и нулем, и единицей. Взаимосвязи между явлениями и свойствами богаче и неоднозначнее, чем чёт и нечет.

Бинарностью легко оперировать, но в таком случае нам стоит смириться с тем, что искусственный интеллект так и останется усовершенствованной моделью калькулятора.

А вот еще что интересно