Ofcom связался в срочном порядке с компанией Илона Маска xAI после сообщений о том, что ее инструмент ИИ Grok может использоваться для создания «изображений детей сексуального характера» и раздевания женщин.
Представитель регулятора заявил, что также расследует опасения по поводу того, что Grok создает «изображения раздетых людей».
BBC обнаружила несколько примеров на платформе социальных сетей X, когда люди просили чат-бота изменять реальные изображения, чтобы женщины появлялись в бикини без их согласия, а также помещали их в сексуальные ситуации.
X не ответила на запрос о комментарии. В воскресенье компания выпустила предупреждение пользователям о недопустимости использования Grok для создания незаконного контента, включая материалы о сексуальном насилии над детьми.
Илон Маск также написал, что любой, кто попросит ИИ создать незаконный контент, «пострадает от тех же последствий», что и если бы он загрузил его сам.
Собственная политика допустимого использования XAI запрещает «изображение людей в порнографическом ключе», но люди использовали Grok для цифрового раздевания людей без их согласия.
Изображения Кэтрин, принцессы Уэльской, были среди многих, которые были подвергнуты цифровому раздеванию пользователями Grok на X.
BBC обратилась за комментариями в Кенсингтонский дворец.
Европейская комиссия — орган ЕС по обеспечению соблюдения законодательства — заявила в понедельник, что «серьезно изучает этот вопрос», и, как сообщается, власти Франции, Малайзии и Индии оценивают ситуацию.
Тем временем британский фонд Internet Watch Foundation сообщил BBC, что получил сообщения от общественности об изображениях, созданных Grok на X.
Однако фонд заявил, что пока не видел изображений, которые бы превысили установленный в Великобритании порог для признания их изображениями сексуального насилия над детьми.
«Ужасно» и «отвратительно»
Grok — это бесплатный виртуальный помощник (с некоторыми платными премиум-функциями), который отвечает на запросы пользователей X, когда они отмечают его в публикации.
Саманта Смит, журналистка, обнаружившая, что пользователи использовали ИИ для создания её фотографий в бикини, заявила в пятницу в программе PM на BBC, что это заставило её почувствовать себя «дегуманизированной и низведенной до сексуального стереотипа».
«Хотя на фотографии была не я в обнаженном виде, она выглядела и ощущалась как я, и это было так же оскорбительно, как если бы кто-то действительно опубликовал мою фотографию в обнаженном виде или в бикини», — сказала она.
Согласно Закону о безопасности в Интернете (OSA), Ofcom заявляет, что создание или распространение интимных или откровенно сексуальных изображений — включая «дипфейки», созданные с помощью ИИ, — без согласия человека является незаконным.
Ожидается также, что Tech Firere предпримет «соответствующие шаги» для снижения рисков для британских пользователей, сталкивающихся с таким контентом, и будет «быстро» удалять его, как только узнает о нем.
Дама Чи Онвура, председатель Комитета по науке, инновациям и технологиям, заявила, что эти сообщения «глубоко тревожны».
Она заявила, что Комитет счел Закон об охране и безопасности «крайне неадекватным» и назвал его «шокирующим примером того, как граждане Великобритании остаются без защиты, в то время как компании социальных сетей действуют безнаказанно».
И она призвала правительство принять рекомендации Комитета, чтобы заставить платформы социальных сетей «взять на себя большую ответственность за свой контент».
Между тем, представитель Европейской комиссии Томас Ренье заявил в понедельник, что ей известно о публикациях Grok, «содержащих откровенно сексуальный контент», а также о «некоторых материалах, созданных с использованием изображений, похожих на детские».
«Это незаконно», — сказал он, назвав это также «ужасным» и «отвратительным».
«Так мы это видим, и этому нет места в Европе», — сказал он.
Ренье заявил, что X «прекрасно осознавал», что ЕС «очень серьезно» относится к обеспечению соблюдения своих правил для цифровых платформ, поскольку в декабре он оштрафовал X на 120 миллионов евро (104 миллиона фунтов стерлингов) за нарушение Закона о цифровых услугах.
Представитель Министерства внутренних дел заявил, что ведомство принимает закон о запрете инструментов для получения обнаженного тела, и в соответствии с новым уголовным преступлением любой, кто поставляет такие технологии, «будет приговорен к тюремному заключению и значительным штрафам».