«Технология не может улучшить человека»: интервью с философом нейротехстартапа Neiry Дарьей Фетисовой

Вы в Бога верите? Без иронии спрашиваю и не хочу при этом в личное зарываться, но для контекста нашей беседы это важный нюанс, поскольку морально-этическое измерение и разговоры о границах «естественного» и «искусственного», «человеческого» и «машинного» неизбежно в эту плоскость будут переходить.

Вам повезло, у меня есть однозначный ответ на этот вопрос. Я верю в Бога, я православная христианка, воцерковленная. И в данный момент получаю богословское образование.

Чем занимается философ в технологической компании? Речь же явно не о «философии нашего бизнеса» идет, а о чем-то действительно серьезном. В чем ваша зона профессиональной ответственности?

Здесь стоит рассказать о том, с чего все вообще началось. Я как-то познакомилась с Сашей Пановым, мы обсуждали с ним разные философские вопросы вроде «Куда движется наша страна?», «Нужна ли нам идеология?». И в какой-то момент он ко мне пришел и говорит: «Слушай, мы тут, вообще-то, в мозг влезаем к животным. И скорее всего, появятся люди, которые не понимают, что мы делаем, и попробуют нас закрыть. Можешь подсказать, что нам делать?»

Он пришел ко мне за консультацией, а закончилось это получением работы. Первое, что я предложила, — разрабатывать внутреннюю этику компании. Как только появляется идея нового продукта, мы обсуждаем, какие этические риски возникают при его потенциальной реализации. 

Чем вообще занимается Neiry, если обобщить это буквально в паре предложений? Какими продуктами и разработками вы особенно гордитесь? 

Neiry — это нейротехстартап, занимающийся разработкой продуктов в области нейротехнологий, как инвазивных, так и неинвазивных. Из неинвазивных есть хедбенды — повязки на голову, считывающие мозговую активность. Их можно использовать для профориентации, обучения, медитации и так далее. Например, одна компания закупила хедбенды, чтобы фиксировать, засыпает ли водитель-дальнобойщик за рулем. Если да, то приходит сигнал — и машина автоматически паркуется. Мне кажется, это круто.

Если говорить про инвазивные технологии, то сейчас идет большая работа с... коровами. Мы, кажется, первая компания в мире, запустившая нейротехнологический продукт в сфере животноводства: у коров с помощью нейростимуляции повышают надои. На производствах животные часто испытывают стресс, причем не всегда из-за плохого содержания — просто бывает, что изменилась влажность, пригнали новый скот… И Neiry предложил мозговой чип, стимулирующий глубокие зоны мозга для снятия стресса. От этого коровы лучше себя чувствуют, чаще едят, больше двигаются и, соответственно, дают больше молока. В данный момент очередь на установку таких имплантов — примерно 100 тыс. голов в нашей стране.

А какие конкретно могут быть риски в нейротехнологиях? 

Есть три большие группы рисков. Во-первых, те, что связаны с изменением общества. То есть любая технология — например, интернет — как-то меняет коммуникации и взаимодействия между людьми. Вы же видели крысу Пифию? Давайте на секундочку представим, что у школьников появится такая штука. Как это повлияет на образование? Будет ли вообще тогда смысл в нем? И если переносить такое устройство на человека, то оно должно претерпеть некоторые изменения: либо купировать технологию, либо отключать на период обучения, ставить возрастной ценз и тому подобное.

Вторая группа — проблемы прав: утечки данных, контроль извне — такого рода вопросы. Если у меня в голове будет прибор, который подключается к интернету и считывает данные моего мозга, то как они будут защищаться, где они будут храниться и кем они будут использоваться? Пока что это не особая проблема, но технологии развиваются, и когда-нибудь по карте вашего мозга или расшифровкам нейронного содержания будет что-то понятно про ваш характер и предпочтения. Не в плане чтения мыслей — до этого мы вряд ли доживем, — но расшифровщики эмоций уже стали реальностью. Некоторые люди, например, добровольно участвуют в маркетинговых исследованиях: им показывают ролики, а хедбенды считывают электроэнцефалограмму мозга и ловят реакции на определенные раздражители, чтобы сделать рекламу эффективнее.

И третья, на мой взгляд, самая интересная группа — проблемы свободы воли. Чипирование людей происходит уже сейчас, благодаря технологии DBS [англ.deep brain stimulationЛюдям с синдромом Паркинсона и эпилепсией уже ставят в мозг чипы, купирующие симптомы болезни, — при Паркинсоне, например, руки перестают трястись прямо во время операции. Это и у нас в России делается — несколько сотен операций в год.

Но бывают неожиданные побочные эффекты: например, лудомания и гиперсексуальность, причем у людей, ранее не замеченных в таких склонностях. Был описан случай, когда у человека при такой стимуляции поменялись музыкальные вкусы. Он стал слушать только Джонни Кэша. Связано все это с тем, что стимуляции происходят в глубоких зонах мозга. И предсказать последствия подобной стимуляции пока не представляется возможным.

Каким образом происходит тестирование таких устройств? 

Если мы говорим про неинвазивные устройства, то все довольно просто: это добровольное исследование. Что же касается медицинских устройств, то здесь в нашей стране все жестко регулируется — и слава Богу. Чтобы установить человеку инвазивное устройство в головной или спинной мозг, необходимо провести операцию, которую назначит лечащий врач в соответствии с протоколом лечения. Перечень диагнозов для таких операций короткий: эпилепсия, Паркинсон, потеря конечностей. В нашей стране есть компания «Моторика», разработавшая очувствленные протезы, которые человек способен ощущать после потери конечности. Это прорыв, поскольку многие люди не пользуются робозаменами из-за отсутствия отклика и ощущения чего-то чужеродного.

Насколько я знаю, ведутся разработки чипов, которые будут способны излечивать депрессию электростимуляцией мозга, но только для тех случаев, когда фармакологические препараты не действуют на конкретного пациента. Правда, это только разработки — о выходе на рынок говорить рано.

Есть ли лично для вас вещи, кажущиеся в данной сфере этически недопустимыми? 

Для меня вопросы вмешательства в сферу принятия решений очень чувствительные. Думаю, даже не все нейроисследования, проводимые сегодня в сфере нейромаркетинга, действительно этичны. Но это сложный вопрос, и каждый конкретный случай нужно рассматривать отдельно.

Что же до медицинского вмешательства, то в XXI веке человечество столкнулось с серьезной проблемой: мы стали доживать до Альцгеймера и других нейродегенеративных заболеваний. К тому же рождаемость падает, а население стареет. И нужно что-то делать с тем, чтобы люди могли продолжать качественную жизнь не только после 50, а уже после 60–70 лет, сталкивались с деменцией как можно позже. Для того чтобы это сделать, нужны нейроисследования. Мы по-другому не адаптируем мозг к долгой жизни, иначе как исследуя его.

Другого пути пока нет. Разве что в монастырь пойти. Я, например, практически не знаю монахов с деменцией. Как правило, они в своем уме и довольно счастливые. Но мы не можем же заставить всех молиться, поститься и слушать радио «Радонеж». Поэтому нужно искать другие способы и облегчать людям жизнь. Плюс еще растет число тревожных расстройств, и тут неинвазивные девайсы могут помочь уже сейчас. К хедбенду можно подключить приложение, которое научит вас отдыхать. Ведь из-за постоянного залипания в лентах мы не осознаем, что у нас нет даже десяти минут в день, когда мы действительно отдыхаем и ничем не заняты. И этому очень сложно научить без визуализации того, что сейчас ты все делаешь правильно.

Вместе с технооптимизмом столь же шумно сегодня процветает технопессимизм: пока одни люди надеются, что новые технологии и искусственный разум исцелят человека и общество от всех недугов, другие боятся «чипирования», шарахаются от ИИ и порой даже в тлетворное влияние 5G-вышек верят. Как вам кажется, откуда берутся эти две крайности и как с ними бороться? 

Меня тоже интересует этот вопрос. Технооптимизм и вообще любая вера в прогресс — это наследие эпохи Просвещения XVIII века, которой мы заражены по сей день. Так было далеко не всегда. Человечество прежде не жило с верой, что технология нас спасет. Древние греки, например, считали, что Золотой век уже позади, а живут они в эпоху упадка. И XX век показал: технологии никого не улучшают. Вот у нас появились интернет и мобильные телефоны, возможность связаться с любым человеком на этой планете и разобраться с любым конфликтом. Но, кажется, это так не работает.

И вот вокруг нейротехнологий и искусственного интеллекта поднимается новый хайп: вот теперь-то мы уж точно улучшим человека! Я лично в это совсем не верю. Особенно если мы говорим про ИИ. Ведь то, что человек не использует, впоследствии деградирует. Я, например, уже не уверена, что смогу ездить по незнакомым местам без навигатора. Так же будет происходить с умением писать тексты и анализировать информацию — да уже происходит.

Недавно мой знакомый философ обнаружил, что гигантский доклад ООН по демографии создан ИИ.

Поэтому я скорее склоняюсь к технопессимизму, если мы эти две крайности берем. Но я верю в преображение человека его собственными силами и с Божьей помощью. Каждый может измениться к лучшему, если захочет. И мы можем помочь друг другу — в том числе с использованием современных разработок. Технология не может улучшить человека, но она может изменить его жизнь в лучшую сторону.

Звучит даже как-то оптимистично, хоть мне и несколько не по себе. 

Мы заражены постмодернизмом, из-за чего категории «хорошо» и «плохо» кажутся немного неприличными в современном мире. Но как только речь заходит о том, что сейчас мы возьмем и поставим кому-то что-то в мозг, то сразу начинаются поиски объективной истины, вопросы этики и морали. И постмодерн вдруг резко перестает работать, поскольку становится нужна твердая почва под ногами. И мы возвращаемся к первому заданному вами вопросу. Потому что во многом все упирается в религиозные воззрения.

Во всяком случае, не стоит избегать этого разговора — необязательно в религиозном, но уж точно в этическом ракурсе. Потому что ответственность за происходящее на операционных столах — она хоть и не на мне, теоретике, но на ученых, которые занимаются этими разработками. Но моя работа просветительская. Нейротехнологи, разработчики, CEO, ученые должны понимать: то, что они делают, повлияет на других, на будущее. И потому должны быть действительно уверены в этической допустимости своей деятельности.

В прошлом году Neiry проводил образовательный проект «Диптех головного мозга» для студентов и школьников, увлеченных нейротехом. И у меня там была лекция об ответственности за будущее. Они должны понимать, что принимать решения о желанном будущем придется им самим, а не злым дядям из ООН. Как-то так.