Twitter обнаружил расовые предубеждения в искусственном интеллекте для обрезки изображений

По словам компании, автоматическая обрезка изображений Twitter имела основные проблемы, из-за которых белые люди отдавали предпочтение темнокожим, а женщин – мужчинам.

Preferences for white people over black people and women over men were found in testing

Это произошло через несколько месяцев после того, как пользователи выявили потенциальные проблемы с алгоритмом, который обрезал большие фотографии.

Последующее исследование социальной сети подтвердило наличие проблемы.

Twitter заявил, что уже начал отказываться от старой системы, выпустив обновление для мобильных приложений, обеспечивающее более точный предварительный просмотр изображений.

При старой системе алгоритм делал все возможное, чтобы центрировать вид очень высоких или широких изображений таким образом, чтобы кадрировать лица людей или другие интересные части изображения. Но не всегда это срабатывало идеально.

Расовая предвзятость

В сентябре прошлого года сотрудник университета заметил, что, когда он опубликовал две фотографии – одну с собой и одну с коллегой, – превью в Твиттере постоянно показывало белого человека над черным, независимо от того, какое фото было добавлено в твит первым.

Другие пользователи обнаружили, что закономерность сохраняется для изображений бывшего президента США Барака Обамы и сенатора Митча МакКоннелла или для стоковых изображений бизнесменов разной расовой принадлежности. Когда оба были на одном изображении, кадрирование предварительного просмотра выглядело так, чтобы отдавать предпочтение белым лицам, скрывая черные лица, пока пользователи не щелкнули по полной фотографии.

  • Twitter исследует расовые предубеждения в превью изображений
  • Алгоритмы, которые принимают решения о вашей жизни

Twitter отреагировал быстро, объяснив, что перед выпуском системы машинного обучения он проверил подобные проблемы, но признал, что необходимо проделать дополнительную работу, и пообещал исправить это.

Компания обнародовала результаты в блоге, посвященном детальному проектированию, в среду.

Проблема заключалась в его «алгоритме заметности», который он выпустил в 2018 году для обрезки изображений. Как пояснил Twitter, алгоритм был «обучен на данных слежения за глазами человека», но причина очевидных проблем может быть связана с несколькими сложными факторами.

В ходе тестирования по сравнению с вероятностью 50-50 “демографического паритета” было обнаружено:

  • Разница в 8% в пользу женщин по сравнению с мужчинами
  • Разница в 4% в пользу белых людей обоих полов по сравнению с черными
  • Разница в 7% в пользу белых женщин по сравнению с чернокожими
  • 2% разница в пользу белых мужчин над черными

Команда также проверила утверждения об эффекте «мужского взгляда», когда изображения женщин были обрезаны до груди или ног, а не лица. Но в этом случае проведенный ими тест не обнаружил доказательств предвзятости.

«Мы рассмотрели компромисс между скоростью и согласованностью автоматической обрезки с потенциальными рисками, которые мы увидели в этом исследовании», – написал Румман Чоудхури, директор по разработке программного обеспечения Twitter.

«Один из наших выводов заключается в том, что не все в Твиттере является хорошим кандидатом для алгоритма, и в этом случае решение о том, как кадрировать изображение, лучше всего принимают люди», – сказала она.

Она указала на недавнее развертывание реалистичного предварительного просмотра кадрирования, при котором также больше не кадрируются «стандартные» фотографии с соотношением сторон 16: 9 или 4: 3.

«Мы работаем над дальнейшими улучшениями средств массовой информации в Твиттере, которые основываются на этих первоначальных усилиях, и мы надеемся, что вскоре они будут доступны всем», – сказала она.

В заявлении для CNN представитель Twitter пояснил, что, хотя первоначальное изменение касалось мобильных приложений – в которых проблема была впервые обнаружена, – компания планирует удалить алгоритмическое кадрирование из веб-версии Twitter в ближайшие месяцы.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *