Коалиция специалистов по искусственному интеллекту обратилась к научному сообществу с открытым письмом: по их мнению, нужно перестать создавать алгоритмы, которые якобы могут определить преступника по лицу.
Эксперты уверены, что такая практика антинаучна, так как в ее основе лежит физиогномика. Кроме того, эти алгоритмы только подкрепляют расовые стереотипы.
Обычно такие ИИ обучают на криминалистических базах данных и фотографиях реальных преступников. Но, например, полиция в США чаще задерживает темнокожих людей, а «система правосудия относится к цветному населению гораздо жестче». Это значит, что обученный таким образом алгоритм автоматически будет считать, что большинство темнокожих людей — потенциальные преступники.
«Давайте будем честны — нет способа разработать систему, которая могла бы предсказать преступление или идентифицировать нарушителя и при этом не иметь расистских предрассудков», — говорится в письме. Его подписали более 1700 человек.