Twitch запускает инструмент искусственного интеллекта для обнаружения заблокированных пользователей

Twitch запустил инструмент, который использует машинное обучение для обнаружения пользователей, пытающихся повторно присоединиться к каналам чата, в которых они были заблокированы за оскорбительное поведение.

На веб-сайте прямых трансляций, посвященном играм, говорится, что «злоумышленники» часто создают новые учетные записи, чтобы продолжать преследовать людей.

Но новая система будет предупреждать стримеров и модераторов чата, если пользователь «вероятный» или «возможный» уклонился от бана.

Это часть долгосрочных усилий Twitch по сокращению ненависти и домогательств.

Язык вражды

Компанию критиковали за «рейды ненависти», когда недобросовестные стримеры отправляют своих подписчиков или даже автоматических ботов на другие каналы, чтобы кого-то беспокоить.

Часто жертвы принадлежат к меньшинствам или маргинализованным группам.

Создатели требовали от компании, принадлежащей Amazon, делать больше, чтобы противодействовать подобным проявлениям ненависти.

В сентябре Twitch объявил о «чате с подтверждением по телефону», что позволяет стримерам требовать от некоторых или всех пользователей подтверждения номера телефона перед разговором.

И в том же месяце он начал судебный процесс против неопознанных пользователей, предположительно причастных к «атакам через чат на маргинализованных стримеров».

Последний звонок

По словам Twitch, новая система обнаружения подозрительных пользователей «основана на машинном обучении» и использует «ряд сигналов учетной записи» для выявления лиц, уклоняющихся от бана.

«Машинное обучение» описывает компьютерные системы, которые, по сути, «учатся на собственном опыте».

Новая система будет включена по умолчанию, но модераторы и создатели могут изменить ее настройки или отключить.

По словам Twitch, он сравнивает ряд факторов, в том числе поведение и характеристики учетных записей пользователей, пытающихся присоединиться к каналу чата, с характеристиками заблокированных учетных записей и помечает подозреваемых в уклонении от блокировки двумя способами:

• вероятно: в этом случае их сообщения в чате будут заблокированы, возможно: в этом случае их сообщения все равно будут отображаться

«Никакое машинное обучение никогда не будет точным на 100%», — сказал Twitch, поэтому модераторы чата сделают «последний звонок», но инструмент «будет учиться на ваших действиях, и точность его прогнозов со временем должна улучшиться».