15 февраля 2018, Hi-News.ru

Нейросети плохо распознают темнокожих людей и женщин

Система распознавания лиц уже достаточно плотно вошла в нашу жизнь. Она находит применение в сканерах наподобие Face ID и даже используется для поиска преступников. Но, как сообщает издание Science Daily, группа исследователей из Массачусетского технологического университета (MIT) и Стэнфорда, изучив несколько коммерческих ИИ-алгоритмов для распознавания лиц, выявила в них признаки сексизма и расизма.
В ходе исследования выяснилось, что при анализе фотографий белых мужчин алгоритмы неверно определяли пол лишь в 0,8% случаев, а в случае темнокожих женщин процент ошибок составлял в среднем около 30%. Для выявления закономерностей сотрудница MIT Джой Буоламвини собрала 1200 фотографий разных людей (на которых, впрочем, в основном были запечатлены женщины с темной кожей). Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи, где I — самый светлый, а VI — самый темный.
В итоге выяснилось, что для женщин с темной кожей с оценкой IV, V или VI по шкале Фицпатрика процент ошибок составил 20,8%, 34,5% и 34,7% соответственно. Таким образом удалось установить, что чем темнее фототип кожи — тем больше вероятность того, что алгоритм допустит ошибку. При идентификации мужчин со светлой кожей процент ошибок не превышал 0,8%. Более того, Джой (которая сама является афроамериканкой) попыталась проанализировать собственные фото, и оказалось, что системы либо не распознают ее лицо, либо неверно определяют пол.
На самом деле, к подобному исследованию можно относиться по-разному. Но отбросив в сторону все шутки и предрассудки о толерантности, исследование поднимает очень важный вопрос: а действительно ли алгоритмы распознавания лиц работают должным образом? Ведь с их помощью в том же Китае уже могут попытаться привлечь к уголовной ответственности. Кроме того, новое изыскание слабо соотносится с заявлением одной из софтверных компаний, которая создавала программное обеспечение для нейросетей и утверждала, что их софт распознает лица с точностью в 97% случаев. А как считаете вы? Выскажете свое мнение в нашем новом телеграм-чате.
Вещи
Оставить комментарий

Главное по темам

В книге XVIII века нашли прядь волос Вашингтона

19:38

Переосмыслена сущность мужских носков

18:05

Томские инженеры учат дроны летать стаями

12:41

Документы, которые ученые до сих пор не понимают

11:48

ТТ: главный пистолет лихих 90-х

11:35

Видеоновости

Статьи

Как «доктор смерть» из НКВД изобретал идеальный яд

В Советском Союзе существовала специальная лаборатория, изучавшая влияние отравляющих веществ на человека. Один из ее сотрудников — Григорий Майрановский — не просто экспериментировал — он убивал людей.

«Они реально боятся ехать в Россию»

В рамках цикла об уехавших заграницу россиянах «Лента.ру» рассказывает историю Карины, обосновавшейся в городе неспящих — Сиэтле.

«Вся моя жизнь — отпуск»

В рамках цикла материалов о соотечественниках, перебравшихся за границу, «Лента.ру» публикует рассказ фотографа Кати Пешаковой о том, как устроить жизнь в сказочной Индии.

«Осторожно: на свободе гуляет бурый медведь с двумя пушками»

Пять лет назад отважная уроженка Новосибирска Светлана Скарбо втянулась в авантюру. Она решила заставить британцев читать о Сибири.

«Я слышал, что оценки можно купить за деньги»

Гражданин Германии, 47-летний Йорн Хезе полтора года учился в университете города Орла на факультете экономики.

Фоторепортажи