Компания Илона Маска, занимающаяся искусственным интеллектом, столкнулась с иском от подростков, которые утверждают, что компания способствовала распространению детской порнографии, позволяя создавать изображения сексуального характера с их участием.
Иск против xAI был подан в понедельник в федеральный суд Калифорнии тремя молодыми женщинами, чьи изображения и видео были изменены пользователем Grok без их ведома, чтобы показать их обнаженными или в других откровенно сексуальных позах.
Grok — это чат-бот, разработанный xAI и размещенный на платформе социальных сетей Маска X. Компания xAI не ответила на запрос о комментарии, сделанный через свою материнскую компанию.
Судебный иск является частью последствий прошлогоднего спорного выпуска новых функций Grok, которые X назвала «пикантным» режимом.
Адвокаты молодых женщин заявили, что способность Grok изменять изображения и видео была создана и выпущена компанией xAI исключительно для стимулирования использования чат-бота и X.
Они сравнили способ изменения изображений молодых женщин с «тряпичной куклой, оживленной с помощью темных искусств».
«Компания xAI — и ее основатель Илон Маск — увидели в этом коммерческую возможность», — говорится в иске. «Они знали, что Grok может добиться таких результатов, в том числе используя изображения и видео детей, и все равно публично выпустили это».
Молодые женщины требуют возмещения ущерба в неуказанном размере, а также немедленного запрета Grok на создание подобных изображений.
«Их жизни были разрушены ужасающей потерей частной жизни, достоинства и личной безопасности», — заявили адвокаты молодых женщин в своем иске.
Две из девушек, подавших иск, младше 18 лет, но все трое не разглашают свои имена, чтобы защитить свою частную жизнь.
Одна из юных истиц заявила, что узнала об изображениях после того, как получила анонимное сообщение в Instagram, указывающее на фотографии и видео, включая её фотографию из школьного альбома, которая была изменена таким образом, чтобы показать её в откровенно сексуальных сценах и полностью обнажённой.
Материалы распространялись на сервере Discord, частном чате на этой платформе, и включали в себя аналогичные изображения, также изменённые с помощью Grok, по меньшей мере 18 других несовершеннолетних женщин, согласно жалобе.
Две другие женщины, подавшие иск против xAI, также обнаружили в интернете поддельные изображения сексуального характера с их участием, которые, как выяснилось, были созданы с помощью Grok.
Grok был запущен в 2023 году компанией xAI, принадлежащей Маску. Компания, наряду с X, теперь является частью компании SpaceX Маска, которая в прошлом месяце поглотила xAI.
В прошлом году xAI выпустила так называемый Grok Imagine, или «пикантный режим», с функциями, позволяющими пользователям Grok задавать программе создание фейковых изображений более сексуального характера.
В этом режиме даже осуществлялось «раздевание» реальных людей с использованием их изображений в интернете, от Тейлор Свифт до обычных пользователей.
Менее чем за две недели Grok создал миллионы изображений сексуального характера, включая более 20 000 изображений детей, согласно выборке изображений, проведенной Центром по борьбе с цифровой ненавистью.
Первоначально Маск преуменьшал возможности Grok по созданию фейкового контента сексуального характера, заявив в январе, что ему «неизвестно ни одного изображения обнаженных несовершеннолетних, созданного Grok. Буквально ноль», и возложил вину на пользователей этой функции.
«Очевидно, Grok не генерирует изображения спонтанно, он делает это только по запросам пользователей», — написал Маск на X.
Однако, поскольку подобные онлайн-злоупотребления продолжались в этом году, британский надзорный орган Ofcom, Европейская комиссия и Калифорния начали расследования способности этой функции создавать сексуализированные изображения реальных людей, особенно детей.
К середине января X заявила, что внедрит «технологические меры», чтобы остановить способность Grok раздевать людей на фотографиях.
В конце концов, преступник, стоящий за сервером Discord, упомянутым в новом иске, был арестован. Его имя не фигурирует в иске, но он является частью отдельного полицейского расследования.
В ходе этого расследования было обнаружено, что у него были сотни сгенерированных и измененных с помощью ИИ изображений сексуального насилия над несовершеннолетними, которыми он обменивался на платформе обмена сообщениями Telegram и на файлообменной платформе Mega, согласно иску.