Ofcom начал расследование в отношении компании X Илона Маска в связи с опасениями, что ее инструмент искусственного интеллекта Grok используется для создания изображений сексуального характера.
В своем заявлении британский надзорный орган сообщил о «глубоко тревожных сообщениях» об использовании чат-бота для создания и распространения изображений людей без одежды, а также «изображений детей сексуального характера».
В случае обнаружения нарушения закона Ofcom может наложить на компанию X штраф в размере до 10% от ее мирового дохода или 18 миллионов фунтов стерлингов, в зависимости от того, какая сумма больше.
Компания X сослалась на заявление, опубликованное в начале января в ее аккаунте Safety: «Любой, кто использует Grok или побуждает его к созданию незаконного контента, понесет те же последствия, что и при загрузке незаконного контента».
Позже Илон Маск заявил, что правительство Великобритании ищет «любой повод для цензуры» в ответ на пост, в котором задавался вопрос, почему не рассматриваются другие платформы ИИ.
BBC видела несколько примеров цифровых изображений на сайте X, на которых женщины были раздеты и помещены в сексуальные позы без их согласия. Одна женщина заявила, что было создано более 100 изображений сексуального характера с её участием.
Если X не выполнит требования, Ofcom может обратиться в суд с требованием обязать интернет-провайдеров полностью заблокировать доступ к сайту в Великобритании.
Министр технологий Лиз Кендалл заявила BBC, что приветствует расследование организации и призвала её завершить его как можно скорее.
«Крайне важно, чтобы Ofcom быстро завершил это расследование, потому что общественность — и, что наиболее важно, жертва — не примет никакой задержки», — сказала она.
Предшественник Кендалл, Питер Кайл, заявил в программе BBC Breakfast, что «ужасно», что Grok «не был должным образом протестирован».
«Меня тошнит от того, что я вчера встретил еврейку, чье изображение в бикини возле Освенцима было сгенерировано искусственным интеллектом и выложено в интернет», — сказал он.
Среди других депутатов, выразивших обеспокоенность, — политик из Северной Ирландии Кара Хантер, которая заявила, что решила покинуть платформу.
Тем временем Даунинг-стрит заявила, что правительство по-прежнему сосредоточено на «защите детей», но будет держать свое присутствие на X «под контролем».
«Я думаю, мы ясно дали понять, что все варианты рассматриваются», — заявил официальный представитель премьер-министра.
Доктор Дейзи Диксон, которая ранее заявила Би-би-си, что чувствовала себя «униженной» после многочисленных случаев, когда люди использовали Grok, чтобы раздеть ее, сказала, что приветствует расследование.
«Для Маска и других называть это оправданием для цензуры — значит уводить от сути проблемы — систематического насилия в отношении женщин и девочек», — сказала она.
«Если бы защитники X действительно заботились о женоненавистничестве и детской порнографии, они бы призвали Маска немедленно подчиниться и перестали уводить от сути дела недобросовестно».
«Приоритетная задача»
Ofcom теперь изучит, не нарушила ли компания X правила удаления незаконного контента, как только узнала о нем, и не предприняла ли «надлежащие шаги» для предотвращения его просмотра в Великобритании.
В Ofcom заявили, что к такому незаконному контенту относятся «интимные изображения, полученные без согласия», и изображения сексуального характера с участием детей.
Также будет проверено, использовала ли компания X «высокоэффективные меры по обеспечению возрастного ограничения», чтобы предотвратить просмотр детьми порнографических изображений.
Это решение последовало за глобальной негативной реакцией на функцию создания изображений Grok, при этом Малайзия и Индонезия временно заблокировали доступ к этому инструменту на выходных.
Представитель Ofcom не сообщил, сколько времени займет расследование, но заявил, что это будет «вопрос наивысшего приоритета».
«Платформа должна защищать жителей Великобритании от контента, который является незаконным в Великобритании», — заявили они.
«Мы без колебаний будем расследовать случаи, когда подозреваем, что компании не выполняют свои обязанности, особенно если существует риск причинения вреда детям».
Лорна Вудс, профессор интернет-права в Эссекском университете, заявила BBC, что «трудно предсказать», насколько быстро будет продвигаться расследование.
«У Ofcom есть определенная свобода выбора в том, насколько быстро — или медленно — они проводят расследование», — сказала она.
Она сказала, что регулятор может подать заявление о запрете доступа к X в Великобритании — судебное постановление о блокировке доступа к X — немедленно, а не в качестве крайней меры, но только в «редких обстоятельствах» в ответ на существующую проблему.
Клэр МакГлинн, профессор права Даремского университета, сказала, что дискуссия о том, может ли X быть заблокирован в Великобритании, является «отвлекающим фактором».
«Женщинам и девушкам нужны действия и изменения на местах, чтобы Grok не производил незаконные интимные изображения, и чтобы женщины могли удалить свои изображения, полученные без согласия», — сказала она.