Искусственный интеллект научился с точностью 90% определять расу человека по рентгеновскому снимку груди. Ученые не понимают, как он это делает: алгоритмы не опираются ни на диагноз, ни на ИМТ, ни на плотность костей и при этом выдают вердикт даже на основе старых и некачественных изображений.
Научную статью об этом феномене американские ученые опубликовали в журнале The Lancet Digital Health, пишет ScienceAlert.
Необъяснимую способность искусственного интеллекта подтвердил анализ снимков 200 тысяч людей разных рас, возраста и пола.
🤔 Ученые предполагают, что алгоритм может видеть какие-то неизвестные науке признаки меланина. Этот пигмент отвечает за цвет кожи.
Само по себе умение искусственного интеллекта определять расу человека незначительно, но исследователи обеспокоены им с точки зрения дискриминации и предубеждения.
Если алгоритмы точно знают расу пациента и склонны на ее основе ставить диагноз, то вырастет число врачебных ошибок.
🧑🏻🦯 Ранее нейросеть научили диагностировать болезнь Паркинсона по походке.