Малайзия и Индонезия заблокировали доступ к чат-боту искусственного интеллекта (ИИ) Grok Илона Маска из-за его способности создавать дипфейки сексуального характера.
Grok, инструмент на платформе X Маска, позволяет пользователям создавать изображения, но недавно его использовали для редактирования изображений реальных людей, чтобы показать их в откровенной одежде.
Страны Юго-Восточной Азии заявили, что Grok может использоваться для создания порнографических и недобровольных изображений с участием женщин и детей. Они первыми в мире запретили этот инструмент ИИ.
В Великобритании также растет давление с целью блокировки Grok, и министр технологий страны заявила, что поддержит этот шаг, что побудило Маска обвинить правительство в стремлении подавить свободу слова.
Министерства связи Малайзии и Индонезии объявили о своих мерах против Grok в отдельных заявлениях в выходные дни.
Малайзийская комиссия по коммуникациям и мультимедиа заявила в воскресенье, что ранее в этом году направила компании X уведомления с требованием ужесточения мер после обнаружения «неоднократного злоупотребления» платформой Grok для создания вредоносного контента.
Однако в своем ответе компания X не упомянула о присущих ее платформе рисках и сосредоточилась в основном на процессе сообщения о нарушениях для пользователей, заявила регулирующая организация.
Она добавила, что Grok будет заблокирован до тех пор, пока не будут внедрены эффективные меры защиты, и призвала общественность сообщать о вредоносном контенте в интернете.
Использование Grok для создания контента сексуального характера является нарушением прав человека, достоинства и безопасности в интернете, заявила министр связи и цифровых технологий Индонезии Меутья Хафид в своем посте в Instagram.
Министерство также попросило компанию X Маска предоставить разъяснения по поводу использования Grok.
В последние годы индонезийские власти ужесточили контроль за другими онлайн-источниками порнографических материалов, и такие платформы, как OnlyFans и Pornhub, уже запрещены в стране.
Индонезийские пользователи X-Men, обнаружившие свои отредактированные фотографии на платформе, заявили, что были возмущены тем, что это допускается.
Кирана Аюнингтяс, пользовательница инвалидной коляски, которая публикует в интернете информацию о своих повседневных событиях, обнаружила, что незнакомец оставил комментарий к её фотографии с просьбой, чтобы Грок изобразил её в бикини.
Аюнингтяс сказала, что изменила настройки конфиденциальности и связалась с платформой, чтобы удалить изображение и предотвратить редактирование её фотографий другими пользователями.
«К сожалению, ничего из этого не сработало», — сказала она, добавив, что трудно определить, хранит ли кто-то эти изображения.
Она попросила своих друзей пожаловаться на аккаунты, которые опубликовали её поддельные изображения, но это привело к тому, что отредактированные изображения увидело ещё больше людей, что для неё крайне неловко.
BBC обратилась к платформе Grok за комментариями.
Использование Grok для создания изображений сексуального характера было осуждено лидерами по всему миру, включая премьер-министра Великобритании Кира Стармера, который назвал это «позорным» и «отвратительным».
Министр технологий страны Лиз Кендалл также заявила, что поддержит регулятора Ofcom, если он заблокирует доступ в Великобритании к социальной сети Илона Маска X за несоблюдение законов о безопасности в интернете.
Она сказала, что Закон Великобритании о безопасности в интернете «включает в себя право блокировать доступ к сервисам в Великобритании, если они отказываются соблюдать британское законодательство», и «если Ofcom решит использовать эти полномочия, они получат нашу полную поддержку».