Euro 2020: Почему в социальных сетях по-прежнему много оскорблений

Компании социальных сетей снова подвергаются критике, поскольку их платформы используются для расистского насилия над футболистами после драматического завершения мужского турнира Euro 2020 в воскресенье вечером.

И не заблуждайтесь, технологическим гигантам становится все труднее защищать эти инциденты. Как они не могут нести большую ответственность за контент, которым они делятся с миллионами?

Euro 2020

Короче говоря, исторически с точки зрения регулирования платформы социальных сетей не относились к категории издателей или вещателей так же, как, скажем, традиционные СМИ, такие как BBC.

Если под этой статьей появятся расистские комментарии, написанные не мной, а кем-то, кто ее прочитал, BBC будет привлечена к ответственности, а британский регулирующий орган Ofcom проведет расследование, вмешается и вынесет решение о наказании, возможно, о штрафе.

Но Ofcom еще не имеет таких полномочий в отношении Facebook, TikTok, YouTube и Twitter, которые до сих пор в значительной степени саморегулируются, хотя это будет частью долгожданного законопроекта о безопасности в Интернете.

Однако еще предстоит увидеть, достаточно ли угрозы крупных штрафов, чтобы сосредоточить внимание этих многомиллионных предприятий. Но регулирование планируется не только в Великобритании.

Честно говоря, хотя BBC действительно имеет большое глобальное присутствие, ей не нужно иметь дело с чем-либо вроде объема контента и видео, написанных и загруженных в режиме реального времени кем-либо и всеми, такая платформа, как Facebook, с ее двумя миллиардами пользователи, делает.

Социальные медиа-платформы ищут ответы у автоматизации
Социальные медиа-платформы ищут ответы у автоматизации

Этот объемный том заполняет армии модераторов-людей, работающих на этих платформах.

Некоторые описывают кошмарные сдвиги, когда просматривают худший и самый графический контент, который только можно вообразить, а затем принимают решения о том, что с ним делать.

И решение, на которое все эти компании вкладывают бесчисленное количество времени и денег, – автоматизация.

Алгоритмы, обученные выявлять оскорбительные материалы до их публикации, общий запрет зажигательных (и незаконных) хэштегов, использование таких методов, как «хеширование», которые создают своего рода цифровые отпечатки видео, а затем блокируют любой контент, несущий тот же маркер уже используется регулярно.

Но пока автоматизация остается тупым инструментом.

Он еще недостаточно сложен, чтобы понимать нюансы, контекст, различные культурные нормы, хитрые правки – и было бы очень мало поддержки анонимного алгоритма, созданного неизбранным технологическим гигантом США, эффективно цензурирующего речь западных людей без этих факторов (Китай Конечно, есть своя государственная цензура, а платформы социальных сетей в США запрещены).

В прошлом месяце судьи матча на игре Премьер-лиги были одеты в футболки с лозунгами против злоупотреблений
В прошлом месяце судьи матча на игре Премьер-лиги были одеты в футболки с лозунгами против злоупотреблений

Вот пример – вчера вечером друг сообщил об анонимной учетной записи, которая разместила эмодзи орангутана под постом в Instagram, принадлежащим английскому Bukayo Saka.

Теперь никто не собирается полностью запрещать эти смайлы.

Но в этом контексте, учитывая, что Сака – молодой темнокожий игрок, чей пенальти был одним из тех, которые не удавались в решающие моменты финала Евро-2020 между Англией и Италией, намерение вполне очевидно.

Моя подруга ответила на свою жалобу: «Наша технология обнаружила, что это, вероятно, не противоречит нашим принципам сообщества», хотя в дальнейшем автоматизация была «несовершенной».

Она обжаловала это решение, но кто знает, когда на него обратят внимание пара человеческих глаз?

“Быстро удалено”

Тем временем в Твиттере пользователь, по-видимому, смог использовать крайне оскорбительные расовые оскорбления в твите о футболисте, прежде чем удалить сообщение.

В заявлении Facebook, которому принадлежит Instagram, говорится, что он «быстро удалил комментарии», адресованные игрокам.

«Никто не должен где-либо сталкиваться с расистскими оскорблениями – и мы не хотим, чтобы это было в Instagram», – говорится в нем.

Ответ Twitter был аналогичным – за 24 часа он удалил 1000 сообщений и заблокировал учетные записи, делящие ненавистный контент, используя «комбинацию автоматизации на основе машинного обучения и проверки человеком», говорится в сообщении.

Человеческая природа

Обе компании также заявили, что у них есть инструменты и фильтры, которые можно активировать, чтобы владельцы учетных записей не видели оскорбительный контент, но это не решает проблему распространения контента.

«Никто не решит эту проблему в одночасье», – добавил Facebook.

И, возможно, это то, что на самом деле лежит в основе всего этого – проблема не обязательно в ограничениях технологий, а в старомодной человеческой природе.

Премьер-министр Борис Джонсон по иронии судьбы заявил в Твиттере, что тем, кто несет ответственность за публикации о расистских оскорблениях, должно «быть стыдно за себя».

Но для некоторых людей есть что-то непреодолимое в том, чтобы прятаться за клавиатурой и говорить то, что они, по всей вероятности, никогда не скажут вслух, лично.

Никогда прежде у людей не было доступа не только к тем, кого они хотят ругать, но и к потенциально огромной аудитории тех, кто будет их слушать и присоединяться к ним.

Для некоторых это оказалось пьянящей и опьяняющей смесью, которая быстро зарекомендовала себя как норма.

Я недавно разговаривал с кем-то о чем-то спорном, произошедшем 20 лет назад.

Ее первый вопрос был о том, как отреагировали соцсети.

Я колебался на мгновение, задаваясь вопросом, почему я не могу вспомнить эту деталь – а затем понял, что это просто потому, что ее не существовало.

Добавить комментарий