Роботы против людей: главные аргументы за и против замены человека на ИИ
Дискуссия о будущем искусственного интеллекта становится всё более острой — кого-то развитие нейросетей пугает, а кого-то завораживает новыми возможностями. В марте 2023 года тысячи ученых, предпринимателей и экспертов, включая Илона Маска, предложили ввести на полгода мораторий на развитие нейросетей.
Тема ИИ стала одной из главных и на финальном этапе ИТ-конференции «Импульс Т1» в Экспоцентре в Москве. Разработчики, инженеры и другие эксперты обсуждали технологии, которые зарождаются сегодня и изменят мир в будущем. Сотрудники Холдинга Т1 разделились на два лагеря — технооптимистов и их скептически настроенных оппонентов — и обсудили главные за и против в командных дебатах на тему замены людей искусственным интеллектом.
Польза от алгоритмов есть, но надо рассматривать как потенциальную угрозу универсальный искусственный интеллект, способный осознавать себя как личность. Кроме того, кто будет нести ответственность за ошибки роботов? Юридическая система не регулирует ситуацию, в которой, например, самоуправляемые машины устроят аварию.
Технооптимисты
Конечно, отвечать за последствия таких инцидентов должны разработчики. Но в реальности опасных ситуаций гораздо меньше, чем приносящих пользу. Девять из десяти ДТП происходят по вине человека, при этом именно камеры заставляют водителей соблюдать правила и повышают безопасность на дорогах.
Скептики
Камеры на дорогах — это пример хорошо работающего алгоритма, но не ИИ. Нам нужно вернуться к разговору о более сложном искусственном интеллекте, который имитирует когнитивные функции человека и самостоятельно обучается. Именно он вызывает опасения у профессионалов, так как может войти в неуправляемое состояние, обрести свое «я», и человечество может не входить в его планы.
В каких сферах ИИ уже показал свои возможности?
Технооптимисты
Уже сейчас активно применяются узкоспециализированные системы — они повышают безопасность на предприятиях, избавляют от ошибок, возникающих из-за человеческого фактора. Другой пример — беспилотные поезда, в которых компьютер реагирует на опасность быстрее машиниста.
Скептики
Но заменять человека в любом виде деятельности — неразумно и небезопасно. Недавно был случай в Бельгии, когда после нескольких недель общения с чат-ботом мужчина совершил самоубийство, и ему никто не смог помешать. Разработчик не понес за это ответственность, только выразил обеспокоенность и сообщил, что ввел дополнительные функции безопасности.
Технооптимисты
Это всего лишь единичный случай — позитивных примеров гораздо больше. Например, в США на улицах устанавливают систему микрофонов, которые анализируют звуки. Если раздается звук выстрела, система немедленно отправляет к месту происшествия экстренные службы, и это помогает спасти жизни.
Скептики
И всё же мы должны установить четкую границу в развитии технологий. В 1930-е годы ученые наперебой совершали открытия в области ядерной физики, а в 1945 году урановый «Малыш» и плутониевый «Толстяк» унесли сотни тысяч жизней. Да, тогда бомбами управляли люди, а сейчас мы слишком доверяем искусственному интеллекту и забываем, что контроля над той или иной технологией можно лишиться на любом этапе. Сколько еще мы принесем жертв, прежде чем включим свой интеллект?
Можно ли позволить ИИ самому развиваться?
Технооптимисты
На данном этапе правильнее говорить, что искусственный интеллект — только инструмент, и от нас зависит, как мы его будем применять. Это естественный этап технологической эволюции, которую нельзя остановить. Нам нужно не бояться ее, а вместе идти навстречу будущему и создавать более безопасный мир.
Скептики
Есть еще один аспект — у каждого из нас уникальный внутренний мир, переживания и эмоции. Это часть нашего сознания, которая блокирует деструктивное отношение к людям и миру, формирует мораль. Неизвестно, как будет вести себя ИИ, лишенный этих качеств.
Технооптимисты
Большинство аргументов противников ИИ основано на страхе. Когда появлялись первые машины, они тоже попадали в аварии, и попадают до сих пор, но мы не запрещаем их, а пытаемся решать проблемы безопасности. Нельзя остановить развитие ИИ.
Скептики
Речь и не идет о полной остановке прогресса. Но ИИ должен служить помощником, а не полной заменой человека, хотя нет сомнений, что технически он способен это сделать. Даже остановка развития нейросетей на полгода — это слишком мало. Нужно понять, какие риски перед нами, и принять серьезные решения вплоть до уничтожения дата-центров.
Может ли ИИ заменить человека?
Технооптимисты
Безопасность человека — приоритет, но нейросети как раз и помогают ее достичь. Например, ИИ, который анализирует медицинские снимки, чтобы найти болезни на ранних стадиях. А на новые вызовы надо отвечать по ходу их появления — так работает прогресс с момента получения человеком огня.
Скептики
Нужно всё-таки просчитывать опасности наперед. Возьмем простой эксперимент с максимизатором скрепок: если поручить мощной системе ИИ произвести максимальное количество скрепок, машина будет стремиться превратить всю материю в скрепки или в машины для производства скрепок. Это казалось неправдоподобным, пока мы имели дело с обычными программами, которые «всего лишь» запускали ракеты в космос и обыгрывали величайших шахматистов. А на что будет способен искусственный интеллект с непонятными ценностями и способностью к самообучению, умением нанимать сотрудников, проходить капчи, заказывать пиццу и умело прикидываться человеком?
