Пользователи Instagram рассказали BBC о «крайнем стрессе» из-за того, что их аккаунты были заблокированы после того, как платформа ошибочно обвинила их в нарушении правил о сексуальной эксплуатации детей.
BBC связалась с тремя людьми, которым материнская компания Meta сообщила, что их аккаунты будут навсегда заблокированы, но вскоре после того, как их случаи были освещены журналистами, они были восстановлены.
«Я потерял бесконечное количество часов сна, чувствовал себя изолированным. Это было ужасно, не говоря уже о том, что на мне было такое обвинение», — сказал один из мужчин BBC News.
Meta отказалась от комментариев.
С BBC News связались более 100 человек, которые утверждают, что Meta ошибочно забанила их.
Некоторые говорят о потере дохода после того, как их бизнес-страницы были заблокированы, в то время как другие подчеркивают боль от отсутствия доступа к многолетним фотографиям и воспоминаниям. Многие указывают на влияние, которое это оказало на их психическое здоровье.
Более 27 000 человек подписали петицию, в которой обвиняют систему модерации Meta, работающую на искусственном интеллекте (ИИ), в ложной блокировке аккаунтов и последующем апелляционном процессе, который не соответствует цели.
Тысячи людей также посвятили себя этой теме на Reddit, и многие пользователи писали в социальных сетях о том, что их забанили.
Ранее Meta признала проблему с группами Facebook, но отрицала, что ее платформа была затронута более широко.
«Возмутительно и мерзко»
BBC изменила имена людей в этой статье, чтобы защитить их личности.
Дэвид из Абердина в Шотландии был заблокирован в Instagram 4 июня. Ему сказали, что он не следовал стандартам сообщества Meta в отношении детской сексуальной эксплуатации, насилия и наготы.
В тот же день он подал апелляцию, после чего был навсегда заблокирован в Instagram и связанных с ним аккаунтах Facebook и Facebook Messenger.
Дэвид нашел ветку Reddit, где многие другие пользователи писали, что их также ошибочно забанили за детскую сексуальную эксплуатацию.
«Мы потеряли годы воспоминаний, в моем случае более 10 лет сообщений, фотографий и постов — из-за совершенно возмутительного и гнусного обвинения», — сказал он BBC News.
Он сказал, что Meta — это «позор» с ответами, сгенерированными ИИ, и шаблонными ответами на его вопросы. Он до сих пор не знает, почему его аккаунт был заблокирован.
«Я потерял бесконечное количество часов сна, испытывал сильнейший стресс, чувствовал себя изолированным. Это было ужасно, не говоря уже о том, что на меня навалилось такое обвинение.
«Хотя вы можете поговорить с людьми на Reddit, трудно пойти и поговорить с членом семьи или коллегой. Они, вероятно, не знают контекста, что идет волна банов».
BBC подняла дело Дэвида на Meta 3 июля, как одного из многих людей, которые утверждали, что были ошибочно забанены за сексуальную эксплуатацию детей. В течение нескольких часов его аккаунт был восстановлен.
В сообщении, отправленном Дэвиду и просмотренном BBC, технологический гигант сказал: «Нам жаль, что мы ошиблись, и что вы не могли пользоваться Instagram некоторое время. Иногда нам нужно действовать, чтобы обеспечить безопасность нашего сообщества».
«Это огромный груз с моих плеч», — сказал Дэвид.
Фейсал был заблокирован в Instagram 6 июня из-за предполагаемой сексуальной эксплуатации детей, и, как и Дэвид, его аккаунт в Facebook также был заблокирован.
Студент из Лондона начал карьеру в сфере искусства и начал зарабатывать деньги с помощью комиссионных на своей странице в Instagram, когда ее заблокировали. Он подал апелляцию, почувствовав, что не сделал ничего плохого, а затем его аккаунт был заблокирован через несколько минут.
Он сказал BBC News: «Я не знаю, что делать, и я действительно расстроен.
«[Meta] ложно обвиняют меня в преступлении, которого я никогда не совершал, что также вредит моему психическому состоянию и здоровью, и это привело меня в полную изоляцию на весь последний месяц».
Его дело также было поднято в Meta BBC 3 июля. Примерно через пять часов его аккаунты были восстановлены. Он получил точно такое же электронное письмо, как и Дэвид, с извинениями от Meta.
Он сказал BBC News, что был «весьма рад» услышать эту новость. «Теперь я стараюсь ограничивать свое время в Instagram».
Фейсал сказал, что он по-прежнему расстроен инцидентом и теперь беспокоится, что блокировка аккаунта может произойти, если в отношении него будут проведены какие-либо проверки биографических данных.
Третий пользователь Салим сказал BBC News, что у него также были аккаунты, ложно заблокированные за нарушения, связанные с сексуальной эксплуатацией детей.
Он рассказал журналистам о своем случае, заявив, что апелляции «в значительной степени игнорируются», бизнес-аккаунты страдают, а ИИ «обозначает обычных людей как преступников-насильников».
Почти через неделю после его блокировки его аккаунты Instagram и Facebook были восстановлены.
Что пошло не так?
В ответ на запрос BBC News компания Meta отказалась комментировать дела Дэвида, Фейсала и Салима и не ответила на вопросы о том, есть ли у нее проблема с неправомерным обвинением пользователей в преступлениях, связанных с жестоким обращением с детьми.
Однако компания видит в этом одну часть мира, но признает, что проблема шире.
Как стало известно BBC, председатель Комитета по науке, ИКТ, вещанию и коммуникациям Национальной ассамблеи Южной Кореи в прошлом месяце заявила, что компания Meta признала возможность неправомерных отстранений людей в ее стране.
Доктор Каролина Аре, блогер и исследователь модерации социальных сетей в Нортумбрийском университете, сказала, что сложно понять, в чем корень проблемы, поскольку компания Meta не открыто об этом говорит.
Однако она предположила, что это может быть связано с недавними изменениями в формулировках некоторых руководящих принципов сообщества и продолжающимся отсутствием работоспособного процесса апелляции.
«Meta часто не объясняет, что именно послужило причиной удаления. Мы не осведомлены о том, что пошло не так с алгоритмом», — сказала она BBC News.
В предыдущем заявлении Meta сказала: «Мы принимаем меры в отношении аккаунтов, которые нарушают нашу политику, и люди могут подать апелляцию, если считают, что мы совершили ошибку».
Meta, как и все крупные технологические компании, в последние годы подвергается усиленному давлению со стороны регулирующих органов и властей, требующих сделать свои платформы безопасными.
Meta сообщила BBC, что использовала сочетание людей и технологий для поиска и удаления аккаунтов, которые нарушали ее правила, и не знала о всплеске ошибочной блокировки аккаунтов.
Meta заявляет, что ее политика в отношении сексуальной эксплуатации детей касается детей и «нереальных изображений с человеческим сходством», таких как искусство, контент, созданный искусственным интеллектом, или вымышленных персонажей.
Meta также сообщила BBC несколько недель назад, что использует технологию для выявления потенциально подозрительного поведения, например, когда аккаунты взрослых сообщаются аккаунтами подростков, или когда взрослые постоянно ищут «вредные» термины.
Meta заявляет, что когда ей становится известно о «явной эксплуатации детей», она сообщает об этом в Национальный центр по пропавшим и эксплуатируемым детям (NCMEC) в США. NCMEC сообщила BBC News, что делает все эти отчеты доступными правоохранительным органам по всему миру.