Алгоритм Twitter предпочитает стройные, молодые, светлокожие лица

Как выяснил исследователь, алгоритм обрезки изображений Twitter предпочитает отображать лица более стройные, молодые и с более светлой кожей.

Богдан Кулиник выиграл 3500 долларов (2530 фунтов стерлингов) в организованном Twitter конкурсе на выявление предубеждений в его алгоритме кадрирования.

Ранее в этом году собственное исследование Twitter показало, что алгоритм имеет тенденцию вырезать черные лица.

В результате компания пересмотрела способ обработки изображений, заявив, что кадрирование лучше всего выполняется людьми.

«Алгоритм значимости» решил, как изображения будут обрезаться в превью Twitter, прежде чем на них можно будет щелкнуть, чтобы открыть их в полном размере.

Но когда два лица были на одном изображении, пользователи обнаружили, что при предварительном просмотре кадрирование предпочитало белые лица, скрывая черные лица до тех пор, пока пользователи не щелкнули мышью.

Эта закономерность верна для изображений бывшего президента США Барака Обамы и сенатора Митча МакКоннелла, а также для стоковых изображений бизнесменов, принадлежащих к разным этническим группам.

Собственный последующий анализ Twitter показал «разницу в 4% от демографического паритета в пользу белых».

А директор по разработке программного обеспечения Рамман Чоудхури сказал, что Twitter пришел к выводу, что «как обрезать изображение – это решение, которое лучше всего принимают люди».

Стереотипно женственный

«Конкурс наград за алгоритмические предубеждения» был запущен в июле – это отсылка к широко распространенной практике компаний, предлагающих «вознаграждения за ошибки» исследователям, обнаружившим недостатки в коде, с целью выявления других вредных предубеждений.

А г-н Кулиник, аспирант Швейцарского федерального технологического института в Лаборатории безопасности и конфиденциальности в Лозанне, обнаружил, что «заметность» лица на изображении может быть увеличена, что снижает вероятность того, что оно будет скрыто алгоритмом кадрирования, с помощью «сделать кожу человека светлее, теплее и гладче; и довольно часто изменить внешний вид на более молодой, стройный и стереотипно женственный человек».

Вручая ему первый приз, Twitter заявил, что его открытие показало, что фильтры красоты можно использовать для игры в алгоритм и «как алгоритмические модели усиливают предубеждения в реальном мире и социальные ожидания красоты».

Второй приз получил Halt AI, основанный женщиной стартап из Университета Торонто в Твиттере, показавший, что алгоритм может увековечить маргинализацию в способах обрезки изображений.

Например, «изображения пожилых людей и инвалидов стали еще более маргинальными», – заявила компания.

Основатель Taraaz Research Роя Пакзад выиграла третий приз за работу, которая показала, что алгоритм с большей вероятностью вырезал арабский текст, чем английский в мемах.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *