Популярное

Мечтают ли андроиды об электрических женщинах?

В издательстве «Альпина Нон-фикшн» выходит книга «Что мы думаем о машинах, которые думают» об искусственном интеллекте. Публикуем эссе одного из основоположников киберпанка Брюса Стерлинга и писателя Дугласа Коупленда.

Брюс Стерлинг. Машины-актрисы

Поскольку машины не думают, мне нужна метафора получше. «Машины-актрисы» — это выражение подойдет, по крайней мере пока.

Одно из многих моих возражений против термина «искусственный интеллект» состоит в том, что у него совершенно отсутствует «искусственная женственность».

У реального интеллекта есть пол, потому что у человеческого мозга он есть. Большинство человеческих мозгов по статистике — женские.

Следовательно, если «интеллектуальность» мозга вычислима по Тьюрингу, тогда и «женственность» мозга тоже должна быть вычислима по Тьюрингу. Если нет, то почему? Можно неосторожно возразить, что женственность-де вещь слишком неопределенная, непонятная и телесная, для того чтобы реализовывать ее в виде программы, но то же будет верно для любой формы мозговой деятельности человека.

У «искусственной мужественности» те же проблемы, потому что мужчины не просто думают, а думают как мужчины. Если мой интеллект можно воспроизвести на определенной вычислительной платформе, но меня при этом придется оскопить, то вся идея окажется спорной. Я что-то не припомню таких энтузиастов искусственного интеллекта, которые вовсю трезвонили бы о преимуществах искусственной кастрации.

У нас уже есть несколько новых сущностей вроде Apple Siri, Microsoft Cortana, Google Now и Amazon Echo. Эти удивительные современные сервисы часто манерничают, разговаривая «женскими» голосами. Они говорят, как тьюринговы женщины, или, вернее, они подают реплики, как актрисы озвучивания. Однако они также дают быстрый доступ к обширным областям комбинаторных больших данных, какими никогда не обладал (и не будет обладать) ни один человек.

Эти сервисы — не отдельные машины Тьюринга. Это аморфные глобальные сети, которые прочесывают облака больших данных, алгоритмически систематизируют ответы от пользователей-людей, выдают результаты в реальном времени через широкополосные беспроводные сети и носят при этом псевдочеловеческие маски, чтобы удовлетворять некие базовые требования к дизайну интерфейса. Вот что они такое. Каждый аспект вымученной метафоры «искусственный интеллект» постоянно мешает нам разобраться в том, как, зачем, где и для кого все это делается.

Apple Siri — не искусственная женщина. Siri — это искусственная актриса, машина-актриса — интерактивное представление с определенным сценарием, служащее интересам корпорации Apple в области продажи музыки, фильмов, предоставления услуг навигации, реализации мобильных приложений и устройств и тому подобных товаров. Siri для Apple и ее экосистемы — это актриса первого плана. Именно ее выхватывает прожектор мобильного устройства, а сама корпорация — это театр, продюсер и рабочие сцены.

Совершенно удивительно, даже восхитительно то, что Siri может одновременно острить с тысячами пользователей Apple, но она не машина, которая становится разумом. Наоборот: в силу веских причин — денег, власти и влияния — Siri неуклонно превращается во что-то вроде полностью интегрированного в бизнес-процессы цифрового имущества Apple.

Siri милая, харизматичная и антропоморфная, примерно как диснеевская Минни Маус в свое время. Так же как Минни Маус, Siri — это фасад для умной и могущественной калифорнийской корпорации. В отличие от Минни Маус, она — полностью цифровой мультфильм с миллионами активных пользователей по всему миру.

«Интеллектуальная» парадигма мешает увидеть, как современные электронные услуги помогают перераспределять власть, деньги и влияние. Это плохо. Это не просто старомодно; честно говоря, это становится частью своего рода мошенничества. Задаваться сочувственными вопросами по поводу гражданских прав Siri, ее предполагаемых переживаний, предпочитаемых форм правления, вопросами о том, как бы она хотела перестроить человеческое общество, — подобная елейность ни к чему. Это мракобесие. Такие вопросы скрывают то, что на самом деле важно. Они искажают наше восприятие. Мы никогда не перейдем от нынешней Siri к чему-то подобному.

Будущее — за тем, что намного больше похоже на современную Siri и намного меньше на то, чего мы от нее ожидаем.

Что нам действительно нужно, так это некий улучшенный, обновленный и содержательный язык, с помощью которого можно было бы описать современный квартет вещих сестричек — Siri, Cortana, Now и Echo — и то, чего их разработчики на самом деле хотят, как, зачем, и каким образом все это может (или не может) повлиять на наши собственные гражданские права, чувства, формы правления и общество. Вот проблема дня сегодняшнего. Все прочее — проблемы дня завтрашнего или послезавтрашнего. Вчерашняя проблема «мыслящих машин» никогда не появится на большой сцене. Машина, которая мыслит, — это не машина. Она не мыслит. Она даже не актриса. Это покрытый плесенью сундук, набитый изгрызенным мышами тряпьем.

Дуглас Коупленд. Человечность

Давайте быстренько рассмотрим крупных млекопитающих. Возьмем собак: мы знаем, что такое собака, и у нас есть понимание «собачности». Взглянем на кошек: мы знаем, что представляют собой кошки и что такое «кошачность». Теперь возьмем лошадей. Все вдруг усложнилось. Мы знаем, что такое лошадь, но что такое «лошадность»? Даже те из моих друзей, у которых есть лошади, затрудняются описать для меня лошадность. А теперь возьмем людей: что мы такое? Что такое «человечность»?

Как-то странно, что нас уже 7 миллиардов и никто на самом деле не знает ответа на подобные вопросы. Одна вещь, неопровержимо присущая людям, — это изготовление вещей, и через вещи мы находим способы выражения человечности — способы, о которых раньше не знали.

Радио подарило нам Гитлера и Beach Boys. Колючая проволока и кондиционирование воздуха дали нам «ковбойскую» Америку. Следствием появления интернета стало исчезновение среднего класса в США и гифки с котиками.

Говорят, что новые технологии отчуждают людей друг от друга, но ведь не было каких-то НЛО, которые приземлились и передали нам эти технологии, — мы их сами создали, а потому они могут быть только, ну, очеловечивающими. И вот тут у нас появляется искусственный интеллект. Люди исходят из того, что у мыслящих машин будет интеллект, чужеродный по отношению к нашему, но это невозможно. Не какие-нибудь злобные пришельцы, а именно мы, люди, создали искусственный интеллект, а потому он может лишь отражать нас, нашу человечность или нашу видовую принадлежность. Так что, когда люди выражают озабоченность по поводу чужеродного интеллекта или сингулярности, они на самом деле выражают тревогу по поводу тех непривлекательных частей нашего коллективного существа, которые до сих пор не проявлялись, но невероятно сильно проявятся у искусственного интеллекта.

Интерфейс созданного людьми искусственного интеллекта будет антропоцентрическим, так же как у искусственного интеллекта, созданного коалами, он был бы коалоцентрическим. Это значит, что программы ИИ окажутся величайшим программистским ляпом человечества, поскольку мы пытаемся втиснуть его в специфические для нашего вида потребности и наборы данных.

К счастью, нечто, способное стать разумным, проявит достаточно сообразительности, чтобы переписать себя, превратившись тем самым из искусственного интеллекта в когнитивную симуляцию. В этот момент наш новый ИИ может стать, к добру или к худу, еще более человечным. Мы все надеемся на взаимоотношения с разумными машинами по образцу «Дживса и Вустера», но надо быть готовыми и к варианту «Мэнсон и Фромм» [Имеются в виду известные преступники Чарльз Мэнсон и Линетт Фромм, вместе совершившие несколько убийств.] — эти двое тоже люди.

Лично мне интересно, смогут ли программы, необходимые для работы искусственного интеллекта, идти в ногу с развитием аппаратных средств, в которых им предстоит жить. Вероятно, нам следовало бы прямо сейчас учредить школу, единственной целью которой было бы наполнение мыслящих машин личными качествами, моралью и состраданием. Так мы точно соберем достаточно данных для работы искусственного интеллекта к тому моменту, как он появится. Но как лучше составить ведомость учета успеваемости для шестого класса, куда входят все данные по возврату товара в Banana Republic за 2037 год и все Google-книги?

Когда появился интернет, люди преимущественно общались с людьми. С течением времени все больше людей общаются с машинами. Нас всех вдохновляет то, что искусственный интеллект, возможно, находит паттерны в глубинных метаданных, и, по мере того как растет запрос на расшифровку огромных объемов этой информации, интернет становится пространством, где машины общаются с другими машинами, а разговаривать они будут, конечно, о нас и у нас за спиной.


Интересно, что дальше? Эту и другие интересные книги можно купить онлайн со скидкой 10 % специально для читателей «Ножа». Просто введите секретное слово knife в поле промокода, оно действует на любые заказы до 01 ноября включительно.