Беспилотные автомобили за гранью морали: что они сделают с городами, культурой и нашим доверием к машинам
Разговор о беспилотных автомобилях почти всегда связывают с вопросами морали. Только ленивый не читал о проблеме вагонетки, не проходил тесты на сайте проекта Moral machine от Массачусетского технологического института или не слушал выступления Кирилла Мартынова о том, можно ли разрешать автомобилям (или шире — автономным технологиям) делать моральный выбор. Интерес публики к морали подогрел и вышедший летом 2017 года этический кодекс беспилотного автомобиля немецкого правительства, где человеку отдается приоритет перед неодушевленными вещами и животными.
Да, беспилотные автомобили бросают вызов устоявшимся представлениям о моральном выборе — но помимо вопросов этики и морали социальным ученым еще есть, чем заняться, чтобы сделать беспилотные автомобили более понятными и привычными для публики. Как решить проблему недоверия человека к технике? Как учесть культурные различия и стили вождения разных стран? И что станет с городами, когда в них хлынут беспилотники?
Можем ли мы довериться технологии
Представьте, что вам нужно отвезти ребенка в школу, а вам некогда — но у вас есть беспилотный автомобиль. Доверите ли вы ему своего ребенка? А если путь лежит через узкие улицы с плотным движением или высокоскоростные шоссе? Будет ли вам комфортно сидеть в капсуле, лишенной педалей и рулевого колеса, которая едет по непонятному вам пути? В отличие от поездки в такси некого спросить, почему был выбран тот или иной маршрут, или некому рассказать вам историю, чтобы расслабить и развлечь вас в поездке.
Проблема доверия к технологии не нова, по ее поводу было сломано немало копий. Но в случае беспилотных автомобилей она открывается по-новому. Автомобиль — это ежедневный спутник большинства людей, который со-участвует во множестве практик передвижения: поездок из дома на работу и обратно, прогулок, поездок за город, отвоза детей в школу, путешествий. Чтобы им пользоваться, нужно ему сильно доверять, и отдельная психологическая проблема для внедрения беспилотных автомобилей — сделать так, чтобы очень разные люди, включая пожилых, детей, инвалидов, доверяли беспилотникам. Но как это сделать в случае беспилотного автомобиля, который едет куда-то без вашего мнения, работает на основании неизвестных вам алгоритмов, не контролируется вами, да еще и к тому же передает ваши данные неизвестно кому?
Для России вопрос доверия тоже не самый последний. Опрос, проведенный в 2017 году по заказу российской компании разработчика беспилотных систем Cognitive Technologies, больше половины опрошенных в России (58 %) высказали недоверие к беспилотным автомобилям в целом.
Желание воспользоваться беспилотными автомобилями высказали при этом 56 % жителей России, что на десяток процентов меньше, чем, например, в США. Сегодня в России мы регулярно слышим от СМИ об успехах «Яндекса» или тех же Cognitive Technologies, но большинство проектов носит закрытый характер, и встретить настоящий беспилотный автомобиль на дороге можно только если он тестируется «из-под полы», как в видео «Яндекс.Такси» в Хамовниках.
Как решают проблему доверия
В социально-психологических исследованиях предлагается несколько решений проблемы доверия.
Первое — есть предположение, что люди доверяют технологи, если она достигает тех целей, которые ожидают от нее производители, и в ходе этого достижения она не ломается. Ну то есть если беспилотный автомобиль исправно возит вас куда нужно в течение недели, то постепенно вы начнете ему доверять. Правда, людей также нервирует, что они не знают того, что происходит во время поездки. Поэтому нужно создать интерфейс, который будет сообщать время, погоду, а также отмечать сложные участки пути.
Пассажиры не любят быть пассивными, поэтому нужно позволить им как-то влиять на поездку — например, отмечать, насколько удачно ведет себя автомобиль, или разговаривать с автомобилем по ходу поездки.
Второе решение проблемы доверия — схожесть. Если бы пассажир не просто говорил с интерфейсом, а сам интерфейс напоминал бы лицо и жесты этого пассажира или знакомых ему людей, то тогда человек проникся бы к технологии самым глубоким доверием. В то же время эксперименты показывают, что такие стратегии работают, но не до конца: пассажиры обычно не доверяют автомобилям, если речь идет, например, о полном отказе от контроля за поездкой.
Третье решение проблемы доверия видится в том, чтобы увидеть отношение человека и техники как процесс, который растянут во времени. Полноценное доверие возникает лишь тогда, когда отношения человека и технологии пройдут несколько важных этапов. Шведский инженер Ингрид Петерссен выделяет несколько этапов в отношениях человека и беспилотного автомобиля. Когда человек только знакомится с технологией, то важна эстетика технологии, ее эффективность, новизна и доверие, которое основывается на том, что технология действует так, как от нее ожидает пользователь. Если с этим все в порядке, дальше наступает этап использования, где вступают в свои обязанности «легкость использования», предыдущий опыт пользования продуктом и включенность технологии в повседневную жизнь. Если и тут все идет как надо, то наступает этап трансформации жизни человека, который характеризуется появлением привычек, привязанностей и самоидентификации с автомобилем. Последний этап — это этап глубокого проникновения технологии в жизнь человека, когда он приобретает новые привычки и вырабатывает новые смыслы отношения с технологией.
В итоге доверие — это эффект цепочки длительных отношений с автомобилем. Поэтому, чтобы его сформировать, необходимо рассматривать отношения человека и беспилотного автомобиля комплексно: не только сделать работающий автомобиль, но и сделать его красивым, удобным, сделать так, чтобы он помогал социальным связям пассажиров и учитывал культурную специфику, в которой живет человек. В качестве примера подобной работы можно привести стремление Илона Маска сделать «Теслу» не просто первым массовым электрическим автомобилем — но первым классным электрическим автомобилем. Поэтому автомобили «Теслы» имеют вид спорткаров.
Почему нет универсальных правил вождения
Считается, что беспилотные автомобили, появившись в одном месте (например, в Кремниевой долине) разойдутся по миру, неся одинаковый комфорт и безопасность в городское движение всех городов. Транспортные инженеры во всем мире делают все возможное, чтобы передвижение по дорогам было одинаковым и стандартным. Чтобы человек, имеющий лицензию на вождение в одной стране, мог легко адаптироваться к транспортным особенностям другой.
Однако же мы видим, что водительские привычки и устанавливаемый на дороге порядок всюду разный.
Культурные привычки вождения определяют то, как строятся отношения автомобилистов между собой и с другими участниками движения (кто кого пропускает и в каких случаях), можно ли нарушать правила и как сделать так, чтобы за это ничего не было. На индийских дорогах можно встретить кажущееся хаотичным движение сотен мотоциклистов, автомобилей, велосипедистов и даже коров. В Калифорнии люди едут бампер-к-бамперу, прижимаясь друг к другу, а в Германии и скандинавских странах — оставляют большую дистанцию между собой и другим автомобилем. Существует видео, где говорится, что на дорогах Каира нет никаких правил пешеходного перехода. Антрополог Илья Утехин показывает, как коммуникация на подобных дорогах строится ситуационно и определяется культурными привычками.
Было разлито много чернил по поводу того, что в России беспилотники не приживутся: инфраструктура никуда не годится, люди водить не умеют, дороги в плохом состоянии и погодные условия такие, что никакие сенсоры ничего не увидят. Многочисленные сборники роликов с видеорегистраторов, которые легко найти на ютубе, показывают, насколько езда по дорогам в России ситуативна и опасна. Велосипедисты, например, чтобы выжить на российской дороге в больших городах, должны намеренно не соблюдать правила дорожного движения (например, выезжать за стоп-полосу перед зеброй, чтобы водители их видели).
Есть и более специализированные культурные стереотипы поведения на дорогах. Их отлично выразил один из самых популярных комментариев под видео «Яндекс.Такси» “Yandex Self-Driving Car. Moscow streets after a heavy snowfall”, заодно отметив сложность проектирования поведения автомобиля на дороге: «А вы снимите видео как этот ваш робот будет в узком дворе разьезжаться с какой нибудь блондинкой или газелькой, что он будет делать если упрется в шлагбаум или переезд, правильно сгорит процессор <…>, потому что програмируете это всё вы, люди которые никогда в такси не работали и не знаете всех тонкостей и нюансов в этой профессии» (пунктуация автора сохранена).
Цель создателей беспилотных автомобилей — сделать автомобильное движение более безопасным и эффективным — благородна, но наивна. Сотни нюансов передвижения по дорогам конкретной страны и даже конкретного города (в Санкт-Петербурге вас как пешехода скорее пропустят, а вот в Волгограде — уже нет) играют роль, которую нельзя свести к задаче повышения эффективности передвижения.
Речь идет о выработанных в течение сотни лет привычек и ожиданий того, как вести себя на дороге. Подобные культурные различия на дорогах могут восприниматься как пережитки, и беспилотные автомобили видятся как раз как способ избавиться от них: сделать дороги эффективнее, удобнее и безопаснее (исправить пресловутые 94 % человеческих ошибок). Однако такой взгляд — слишком технодетерминистский.
Культурные привычки вождения — такая же часть культуры, как и все остальное. Они формировались и определялись с момента массового появления автомобилей, то есть им по крайней мере сотня лет. И избавиться от них в один миг ни возможно, ни желательно. Особенно это сложно для стран, где обладание частным автомобилем в приоритете, или для стран, где вождение стало отдельной полноценной профессией.
Как научить беспилотный автомобиль быть мультикультурным
Тогда остается возможным решить проблему, научив беспилотный автомобиль быть чувствительным к культурным различиям. Как это сделать?
Одно из решений, в котором сходятся и транспортные эксперты, и антропологи беспилотных автомобилей — сделать ставку на обучаемость умных автомобилей. Раз они умные, то сумеют не только научиться делать элементарные вещи на дороге (поворачивать, ускоряться и тормозить), но и адаптироваться к культурным особенностям вождения. Говоря словами антрополога Логана Маклафлина, нужно научить беспилотные автомобили «плохим привычкам» на дороге. По его мнению, обучать автомобиль должны сами водители, или пользователи: например, тому, что они начинают движение перед зеброй до того, как пешеходы полностью закончили ее переходить, или тому, как они выбирают пути объезда пробок или улиц, где идет ремонт, или тому, насколько нужно прижиматься к едущему впереди автомобилю. Исследователи из Южной Кореи Джин Ли и его коллеги предлагают сделать так, чтобы водители и пользователи беспилотных автомобилей по ходу движения оценивали действия беспилотника, пока он справляется с какой-нибудь сложной задачей (например, движется по тесному переулку). Автомобиль запомнит, в каких местах он действовал неудачно и будет работать над своими проблемами, или, на худой конец, будет отдавать управление в такие моменты в руки человеческого водителя.
Декан инженерного факультета Мичиганского университета Алек Гилмур утверждает, что современное обучение беспилотных автомобилей, проходящее в закрытых бизнес-районах, студенческих городках или тихих пригородах — в корне неверно. Нужно бросать беспилотные автомобили на сложные дороги с ямами, коровами, плотным движением, чтобы автомобиль учился двигаться, несмотря на эти препятствия.
Таким образом он надеется преодолеть проблему распространения беспилотных автомобилей в городах вне США и Европы.
Приход беспилотных автомобилей — это, конечно, не только адаптация к культурным привычкам, но и их изменение. Так же, как смартфон или мессенджеры не только позволяют нам коммуницировать с другими людьми быстрее и удобнее, но и меняют наши коммуникативные привычки, также и беспилотный автомобиль будет смешиваться с культурными привычками вождения и менять их — но не нужно думать, что он исправит все. Потому что цена такого исправления кажется слишком высокой.
Как беспилотники прикончат идею экологичного города
Урбанисты, градостроители, архитекторы, транспортные инженеры часто настаивают на том, что города должны быть комфортными для жизни, зелеными, экологичными, экономичными и устойчивыми. Этой идеализированной картине, за которую вот уже десятки лет воюют городские эксперты, теперь может прийти конец.
Представьте, что будет с идеей экологичных, экономичных и удобных городов, когда на их улицах появятся легионы новых частных беспилотных автомобилей?
В документальном фильме «Магическое шоссе США», сделанном студией У. Диснея в 1958 году, показано, как новые длинные шоссе и беспилотные частные автомобили приведут к тому, что большинство людей будут жить за городом, в пригородах, и приезжать в города на работу или для отдыха. Соответственно, города разрастутся, транспортной инфраструктуры станет гораздо больше, а люди будут тратить в поездках больше времени и, естественно, сжигать больше топлива.
Когда автомобили крупных производителей начнут проникать на рынок (а скорость проникновения оценивается экспертами как очень высокая), то мы увидим очередной виток интереса к частному транспорту, люди начнут пользоваться автомобилями чаще и дольше (это ведь проще и эффективнее), и города начнут расползаться вширь, создавая более удаленные и разреженные пригороды за пределами мегаполисов. А это все скажется на увеличении потребления топлива, снижении пользования публичным транспортом, возрастанием пресса на транспортную инфраструктуру.
Это — самый серьезный эффект, который ожидается от частных беспилотных автомобилей сегодня, и он оценивается в целом негативно. Причины этого нужно искать в том, что современные градостроители уже давно отказались от идей строить разреженные города, удаленные точки которых связываются автомобильным движением.
Сегодня акцент (по крайней мере в странах Европы) сделан на публичном и немоторизированном транспорте, экологичности, экономичности, смешанном (shared) использовании пространства. Длинные шоссе в фильме Диснея — это простой и наивный вариант развития городов, сегодня идеи больших транспортных инфраструктур, которые пронизывают городское пространство, давно устарели.
Современные городские пространства, наоборот, движутся в сторону увеличения комплексности: мультимодальности транспорта, разделяемого использования пространства, включения природных зон со своими особенностями в городскую среду. В итоге количество взаимодействия для беспилотного автомобиля и сложность его поведения возрастает в разы. Эта задача становится настолько сложной, что эксперты, которые пишут сценарии развития беспилотных автомобилей для Нидерландов, отмечают, что сложность городской среды может привести к отказу в допуске беспилотных автомобилей в центры городов.
Пока немецкие, австралийские, голландские, американские планировщики ломают голову, что делать с приходом беспилотных автомобилей, в России такой дискуссии пока не происходит. Росавтодор запустил проект «Караван», который направлен на развитие беспилотного грузового транспорта и инфраструктуры для него (как раз пресловутых диснеевских шоссе). Среди городов, которые думают о реализации беспилотников, можно выделить только Москву: полтора года назад мэрия Москвы, опираясь на опыт Сингапура, задумала запустить беспилотные автобусы на своих улицах, а также развивать — следуя за лучшим зарубежным опытом — каршеринг в сфере беспилотного транспорта. Также в канун чемпионата мира по футболу — 2018 «Камаз» заявил о том, что хочет запустить несколько беспилотных автобусов-шаттлов в Казани, которые будут по специальной трассе подвозить людей к стадиону «Казань Арена». Однако эти проекты носят пока декоративный характер, в России беспилотные автомобили, видимо, нужно будет ждать еще дольше, чем в целом по миру.
Что хорошего ждать от беспилотников
Конечно, у беспилотных автомобилей будут эффекты, которые оцениваются и положительно. Например, из центров городов уйдут парковки. Парковки занимают 14 % всей территории Лос-Анджелеса. Конечно, это один из самых автомобилизированных городов, тем не менее факт остается фактом: большая и важная часть современных городов отдана под парковки — и это не считая просто улиц, где машины стоят в ожидании своих хозяев. С приходом беспилотников все это исчезнет: машины будут привозить и забирать людей, а затем уезжать в специальные гаражи, расположенные на окраинах центров городов. В итоге центры городов могут быть «схвачены» в своеобразные кольца подобных парковок для беспилотных автомобилей. А вместо парковок в центре городов появятся зеленые зоны, новые велосипедные дорожки и новые жилые районы.
Еще один возможный положительный эффект влияния беспилотного автомобиля на город — его взаимодействие с пешеходами и велосипедистами.
Существует убедительная версия, что производители автомобилей, чтобы обезопасить себя от бесконечных судов, падения репутации и необходимости постоянно чинить транспортные средства, заложат в беспилотники программу очень осторожного, аккуратного и медленного передвижения.
Беспилотники будут «прокрадываться» через городское пространство и в случае малейшей опасности останавливаться и ожидать действия других участников движения. Если все так и произойдет, то, следовательно, остальные участники движения: пешеходы, дети, животные, велосипедисты — почувствуют себя в большей безопасности и перестанут бояться движения на проезжей части. В более радикальном варианте этой идеи беспилотные автомобили будут настолько «забитыми», что все остальные участники движения начнут захватывать улицы и площади городов, и современные города вернутся к образам европейских городов начала XX века к идее неразделенного для разных групп пространства. И машины, и велосипедисты, и мамы с колясками и скейтбордисты — все будут ездить по одним и тем же улицам, в том числе выскакивать перед беспилотными автомобилями, а последние будут терпеливо ожидать, пока они пересекут проезжую часть.
Кажется, что такого точно не состоится, и осторожные беспилотные автомобили — оксюморон. Кому они будут нужны из пассажиров, если будут униженно ползать по городским дорогам, пропуская всех и все перед собой? Однако некоторые журналисты уверяют, что авария Uber в Аризоне в марте 2018 года, в результате которой погиб пешеход, как раз произошла из-за того, что Uber настроил свой софт на то, чтобы машина ехала быстро и гладко, но была при этом максимально неосторожна, и это привело к трагическим последствиям. Так что, возможно, в будущем производители беспилотных автомобилей будут поступать обратным образом — и делать их очень аккуратными на дороге к радости других участников дорожного движения.
Известный исследователь технологий Ян Богост в своей статье «Как беспилотные машины изменят ощущение города» замечает, что важная особенность беспилотных автомобилей состоит в том, что они находятся рядом с нами. Проблемы доверия, культурных различий и вопросы изменения городов — все они связаны с идеей того, что беспилотные автомобили это не просто абстрактные автономные технологии, работающие на основании сложных алгоритмов. Это будут именно повседневные технологии, которые будут существовать с нами бок о бок. Потому наши привычки, наши ощущения города, наши культурные практики поведения придется делить с ними. Как сделать возможным комфортное со-существование нас как людей со своей культурой, психологической жизнью и своим представлением о городе и рациональных сложных, умных, удобных, но крайне опасных беспилотных автомобилей? Это вопросы, которые предстоит решить в ближайшие 5–10 лет.
И их решение, конечно, вряд ли будет отдаваться на откуп только автоиндустрии, которая создает автомобили, или IT-компаниям, которые делают софт, или даже государству, которое устанавливает политику в отношении технологий. Есть надежда, что все заинтересованные смогут принять участие в поиске ответов, поскольку это, как мы видим на примере аварии Uber, вопрос жизни и смерти, а также нашего понимания самих себя.