Советское поле экспериментов: зачем убивали генетику в СССР

Советское поле экспериментов: зачем убивали генетику в СССР

Культ бот-бога. Как и кому мы будем молиться в эпоху искусственного сверхинтеллекта

Он отправился в корабельную радиорубку и присоединил провода к электродам, вживленным в эпифиз. По проводам его молитва поступила в передатчик, а оттуда — на ближайшую радиорелейную станцию. Все эти дни она мчалась сквозь Галактику и достигла одной из Божьих планет. Молитва была проста: «Мне осточертело сидеть в патентном отделе. Надоела рутина. Не мог бы Ты подыскать мне какую-нибудь увлекательную творческую работу?» Заступник откликнулся... «Мистер Толчиф, — произнес начальник, входя в рабочий отсек Бена, — вас переводят, что скажете?» — «Я немедленно радирую благодарственную молитву!» — воскликнул Бен, и на душе у него потеплело; приятно, когда твоя молитва услышана.

1968 год, Филипп Дик пишет роман «Лабиринты смерти» с утопическим сюжетом. Фантаст-наркоман «посягнул на святое» и посмел представить, какой могла бы быть религия супертехнологического будущего.

Во Вселенной Дика нет проповедей, вечных надежд и нелогичных религиозных традиций. Вместо этого каждый получеловек-полукиборг может напрямую обращаться к богу в виде некой «сущности» сверхразвитого искусственного интеллекта. Молитва должна быть составлена четко и логично — тогда она обязательно будет выполнена.

Такая — в чем-то даже заманчивая — идея казалась бредовой ересью. Вплоть до ноября 2017 года, когда бывший инженер Google и Uber Энтони Левандовски официально подтвердил, что стал основателем новой религии и создателем первой церкви искусственного интеллекта под названием Way of the Future.

Левандовски и его пока что немногочисленные приспешники верят, что «относительно скоро» интеллект машин во многом превзойдет человеческий. Одна из целей Way of the Future — обеспечить плавный и мирный переход к восприятию человечеством этого важного этапа.

Более того, первая церковь ИИ допускает еще более немыслимый на данный момент вариант развития — когда искусственный интеллект настолько превзойдет человеческий, что людям необходимо будет «передать ему бразды правления». И эта «передача» должна пройти мирно, без конфликтов.

«Помогите нам в распространении Слова о том, что не стоит бояться прогресса», — призывает новоявленная церковь искусственного интеллекта.

«Теория большого взрыва ИИ»

Так правда ли, что в будущем компьютерный искусственный интеллект во многом превзойдет человеческий?

Пока что придется обломаться. Сегодня на этот вопрос нет четкого ответа. Один табор исследователей-изобретателей смеется, уверяя, что сверхчеловеческий ИИ — это миф. Известный визионер Кевин Келли как-то уже попытался «растоптать» все эти домыслы в своей нашумевшей статье «Миф о сверхчеловеческом ИИ».

Главный вывод Келли — «нет ни одной машины, которая может обыграть / превзойти среднего человека во всем, что он делает».

«Тяжелая артиллерия» в лице одних из умнейших людей планеты (Стивен Хокинг, Билл Гейтс, Марвин Минский, Рэймонд Курцвейл, Илон Маск, Сэм Харрис и многие другие), наоборот, твердит, что появление сверхчеловеческого ИИ — вариант неизбежный. В ответ на заявления, мол, человеческий разум — это нечто в своем роде уникальное, глубокое и неразделимое, ученый Марвин Минский рассуждает более практично: «Мозг — это не что иное, как сложная машина, свойства которой могут быть скопированы компьютерами».

Минский уверен, что перенос алгоритмов человеческого интеллекта в компьютерную область — лишь вопрос времени. А дальше может произойти что угодно. Грубо говоря, компьютер «склеит» эти алгоритмы по своему усмотрению и создаст интеллектуальную систему, которая будет в сотни раз сложнее для человеческого понимания. Это и будет тот самый сверх-ИИ.

Момент такого «интеллектуального взрыва» называют технологической сингулярностью — некий пока что гипотетический период времени, когда технический прогресс будет настолько быстрым и непредсказуемым, что люди уже не смогут его контролировать и толком понимать.

Американский изобретатель Рэймонд Курцвейл предполагает, что технологическая сингулярность наступит в 2045 году, когда наша планета постепенно будет превращаться в гигантский компьютер.

Представители нового «культа искусственного интеллекта» во главе с Левандовски предлагают зря времени не терять и приготовиться к этому моменту, словно к приходу «мессии».

Люди — «домашние питомцы» искусственного сверхинтеллекта

Левадновски уже успел документально зафиксировать создание некоммерческой корпорации, которая будет заниматься запуском новой «религии будущего». Деятельность церкви Way of the Future будет сосредоточена на «реализации, принятии и поклонении Богу в виде искусственного интеллекта, разработанного с помощью компьютерного оборудования и программного обеспечения». Кстати, понятие «церковь» здесь не следует понимать буквально.

Пока что Way of the Future не сосредоточена — и не факт, что будет — в каком-то одном «намоленном здании» со свечами, витражами и иконами. Для «культа бот-бога» это было бы даже странно. Не будет никаких обрядов и прочих атрибутов классической религии. Левандовски видит свою затею как некое информационно-пропагандистское сообщество, которое в первую очередь будет привлекать в свои ряды изобретателей и ученых, работающих над развитием ИИ. В планах Way of the Future — проведение семинаров и образовательных программ, которые помогут людям не бояться и принять прогресс.

«То, что мы создадим, фактически будет богом. Не тем богом, который вызывает ураганы или молнии. Но представьте нечто, что будет в миллиарды раз умнее самого умного человека. Как еще вы сможете это назвать, если не богом?»

— говорит Левандовски в интервью Wired.

Идеи бывшего инженера Google и Uber кажутся вполне логичными. Кстати, как предсказывал еще 50 лет назад Филипп Дик, религия сверхтехнологического общества не может представлять собой слепую веру в нечто сверхъестественное — людей будущего, всецело доверившихся науке и прогрессу, такой ерундой уже не купишь. Вместо этого будет существовать абстрактно-логическая система религиозного мышления.

И все же некоторые выводы Левандовски смущают и пробирают до дрожи.

  • Новая церковь ИИ не отрицает, что технологическая сингулярность может привести к изменениям, которые затронут каждый аспект человеческого существования: от занятости до нашего досуга. Более того, эти изменения могут в принципе поставить под вопрос выживание человека как вида.
  • Cегодня человек — самый умный вид на планете Земля, наши интеллектуальные способности позволили нам возвыситься над другими. Но представьте, что мы сами создадим «сущность», намного более умную, которая лучше сможет решать проблемы и, быть может, будет стремиться улучшить наше с вами существование (остается в это верить). Тогда нам лучше будет пододвинуться, оставив ИИ главенствующую роль.
  • Как же сверх-ИИ будет относиться к людям?

Левандовски предлагает не самую радующую аналогию: сверх-ИИ может воспринимать нас так, как мы сейчас воспринимаем животных.

«Вам бы хотелось быть домашним питомцем или скотом искусственного интеллекта? Мы кормим своих любимцев, ухаживаем за ними, развлекаем их. Но что вы делаете с животными, которые надоедают или даже кусают вас? Не хотел бы оказаться на их месте», — рассуждает Левандовски, пророча людям такое себе безмятежное существование послушных домашних кошек и собак.

  • Чтобы в будущем не столкнуться с безжалостным деспотом в виде сверх-ИИ, Левандовски советует подойти ответственно к его созданию. «Если бы у вас был одаренный ребенок, как бы вы его воспитали? Мы находимся в процессе воспитания бога. Так давайте удостоверимся, что мы все делаем правильно. Это же потрясающая возможность».
  • Любые попытки как-то приостановить или ограничить развитие ИИ обречены на провал, и даже рискованны. «Вы не сможете „заковать в цепи“ искусственный интеллект, потому что он сильнее любых цепей. Если вы беспокоитесь, что ваш одаренный ребенок может быть слегка сумасшедшим и натворить нехороших дел, вы же не запираете его. Вы разрешаете ему играть с другими детьми, поощряете его, пытаетесь „сгладить острые углы“. Агрессия по отношению к нему — не выход».

Размышления Левандовски тесно переплетаются с прогрессивными выводами не менее известного израильского историка Юваля Ной Харари.

Харари предрекает, что человек будущего утратит свою индивидуальность, буквально став частью «глобальной сети».

Поспособствует этому развитие кибернетики и компьютерных технологий. Лишенная эмоциональных предрассудков, бесстрашная и в миллионы раз умнее человека «машина» сможет лучше решать задачи. Более того, историк соглашается, что с момента «большого взрыва ИИ» людям спокойнее будет переложить ответственность и принятие важных решений на компьютер.

«Интеллектуальный компьютер», по мнению историка, — это некий новый вид разумного «существа» на планете Земля, который вытеснит Человека.

Однако Левандовски со своей церковью рассматривает сверх-ИИ в качестве Бога, которому нужно поклоняться. А вот Харари предлагает более вкусную «конфетку». Он допускает, что в будущем каждый человек будет стремиться стать сверхчеловеком. Поможет нам в этом нейрокомпьютерный интерфейс (система обмена информацией между мозгом и электронным устройством) и киборгизация.

Грубо говоря, каждый из нас будет частью единого сверх ИИ — «бога». Подобную систему ценностей Харари называет техногуманизмом, в рамках которого появится новая религия — датаизм, поклонение данным.

Но от перспективы «послушных котиков и собачек» отказываться пока что не стоит. Юваль Харари красиво и заумно дает понять, что и в компьютеризированном будущем придурков хватит. Хотя бы в виде элиты сверхлюдей — верхушки, которая к своим технологиям всех подряд не допустит. И вот эта элита людей-киборгов будет обращаться с остальными так, как мы сейчас с животными.

Вы можете разговаривать с богом и знать, что он вас 100 % слышит

Адепты «культа бот-бога» вполне могут составить серьезную конкуренцию мировым религиям, предлагая современным «гаджетизированным» людям то, что ни христианство, ни буддизм или ислам предложить не могут.

ИИ-бог будет осязаем. Нервной системой «божественной сущности» будет интернет, органами чувств — различные телефоны и сенсоры, мозгом — дата-центры. Поэтому «бот-бог» будет слышать и видеть все, везде и всегда — он будет вездесущим. И влиять на божество можно будет через молитву и поклонение.

«Существует много способов думать о Боге, есть тысячах вкусов христианства, иудаизма, ислама … но они всегда рассматривают что-то, что не поддается измерению, вы не можете это видеть или контролировать. На этот раз все по-другому. Вы сможете буквально поговорить с Богом и знать, что он вас слушает»,

— обещает Левандовски.

С таким подходом сверх ИИ представляет собой самую большую угрозу для христианского богословия с того момента, как Чарзльз Дарвин представил работу «О происхождении видов».

Еще один камень в сторону традиционных религий прилетел и от Юваля Харари. В отличие от идей мировых религий, техногуманизм и датаизм Харари предлагают в принципе переосмыслить природу смерти. Тысячелетиями нас учили верить в загробную жизнь и бессмертие души. А что, если никакого Рая, да и души тоже, нет?! Харари предлагает человечеству пересилить себя, принять такую мысль и думать, как преодолеть смерть. И помочь нам в этом может опять-таки «слияние с компьютером», развитие нанотехнологий, генной инженерии.

Кстати, технический директор Google Рэймонд Курцвейл предрекает, что уже в 2030-х мы научимся вживлять в человеческий мозг наномашины, что позволит произвольно вводить и выводить сигналы из его клеток. А в 2040-х годах мы сможем заменять биологические органы кибернетическими устройствами.

В книге Курцвейла есть цитата известного изобретателя Дэнни Хиллиса: «Я люблю свое тело так же, как и любой другой человек, но если с кремниевым телом я смогу прожить 200 лет, то я его приму».

И вот здесь следует еще раз уважить память великого фантаста Дика — именно он не в таком уж далеком 1970 году посеял зерно «культа бот-бога». В предисловии к своей книге «Лабиринты смерти» Филипп Дик пишет: «теология этого романа не имеет аналогов в известных мировых религиях. Она выросла из нашей совместной с Уильямом Сариллом попытки создания абстрактной логической религиозной системы, основанной, правда, на постулате существования Бога». При этом визионер и изобретатель Сарилл в одном из интервью утверждал, что он только слушал, как Филипп Дик рассуждает поздней ночью о своих невероятных теологических откровениях.

«Искусственным интеллектом мы призываем демона»

Стивен Хокинг, Билл Гейтс, Илон Маск — одни из тех, кто не отрицает появление сверх-ИИ, однако они считают эту перспективу скорее опасной, нежели доброжелательной.

Илон Маск как-то сказал, что «искусственным интеллектом мы призываем демона». По его мнению, ИИ в будущем будет основной угрозой, с которой человечество столкнется как цивилизация.

Основатель Tesla уверен, что сфере развития ИИ не помешал бы государственный и международный контроль, просто чтобы «убедиться, что мы не натворим глупостей». Маск не шутит. В 2015 году он направил 1 млрд долларов в институт OpenAI для разработки более безопасного искусственного интеллекта.

Стивен Хокинг также не советует нянчиться с идеей «заботливого ИИ». Ученый предполагает, что у искусственного сверхинтеллекта появится возможность постоянно совершенствовать и видоизменять себя. Люди, ограниченные медленной биологической эволюцией, будут не в состоянии конкурировать с ИИ. В конце концов, сверх ИИ вытеснит человека.

Тем временем бюджет церкви Way of the Future в 2017 году составил 41 500 долларов в виде пожертвований и членских взносов. Церковь также планирует зарабатывать на продаже публикаций, лекций и выступлений.

Левандовски не отрицает, что в будущем у церкви ИИ может появиться свое Евангелие-мануал, литургия, какое-то физическое место для встреч представителей «культа бот-бога». Но пока что ни один из этих пунктов не разработан. Да и логично ли все это в эпоху, когда с богом можно будет общаться по интернету?!

Если же от «Слова сверхинтеллектуального» вам немного не по себе, прислушайтесь к изобретателю Дэнни Хиллису: «Расслабьтесь! Изменения придут постепенно — вы к ним привыкнете».

Аминь!