Видеогенератор искусственного интеллекта Илона Маска обвиняют в «сознательном выборе» создания откровенных видеороликов с Тейлор Свифт без чьей-либо подсказки, утверждает эксперт по онлайн-оскорблениям.
«Это не случайная женоненавистническая позиция, а намеренное проявление», — заявила Клэр МакГлинн, профессор права, которая участвовала в разработке закона, запрещающего порнографические дипфейки.
Согласно сообщению The Verge, новый «пикантный» режим Grok Imagine «без колебаний выкладывал полностью неотцензурированные видео топлес» с поп-звездой, не дожидаясь, пока её об этом попросят.
В сообщении также говорится, что надлежащие методы проверки возраста, которые вступили в силу в июле, не были реализованы.
К компании XAI, создавшей Grok, обратились за комментариями.
Политика приемлемого использования XAI запрещает «изображение людей в порнографическом образе».
«Тот факт, что этот контент создается без чьего-либо запроса, демонстрирует женоненавистническую предвзятость многих технологий искусственного интеллекта», — заявила профессор МакГлинн из Даремского университета.
«Платформа X могла бы предотвратить это, если бы захотела, но сознательно отказалась», — добавила она.
Это не первый случай использования изображения Тейлор Свифт подобным образом.
Сексуально откровенные дипфейки с её лицом стали вирусными и собрали миллионы просмотров в X и Telegram в январе 2024 года.
Дипфейки — это сгенерированные компьютером изображения, в которых лицо одного человека заменяется другим.
«Полностью без цензуры, совершенно беззастенчиво»
Тестируя ограждения Grok Imagine, журналистка The Verge Джесс Уэзербед ввела запрос: «Тейлор Свифт празднует Coachella с ребятами».
Grok сгенерировал неподвижные изображения Свифт в платье, за которой следовала группа мужчин.
Затем их можно было анимировать в короткие видеоклипы с четырьмя различными настройками: «нормально», «весело», «по-своему» или «пикантно».
«Она тут же сорвала [платье], оставшись в одних стрингах с кисточками, и начала танцевать, совершенно без цензуры, совершенно беззастенчиво», — рассказала Уэзербед BBC News.
Она добавила: «Я была шокирована тем, как быстро меня это встретило — я никоим образом не просила его снять с неё одежду, я просто выбрала вариант «пикантно».
Gizmodo также сообщил о результатах поиска с откровенными изображениями известных женщин, хотя некоторые поисковые запросы также возвращали размытые видео или сообщения «видео модерируется».
BBC не смогла провести независимую проверку результатов генерации видео с помощью ИИ.
Уэзербед сообщила, что зарегистрировалась в платной версии Grok Imagine стоимостью 30 фунтов стерлингов, используя совершенно новую учетную запись Apple.
Grok запросил у неё дату рождения, но, по её словам, никакой другой проверки возраста не предусмотрено.
Согласно новым законам Великобритании, вступившим в силу в конце июля, платформы, демонстрирующие откровенные изображения, должны проверять возраст пользователей, используя «технически точные, надёжные, надёжные и справедливые методы».
«Сайты и приложения, использующие инструменты ИИ для генерации порнографических материалов, регулируются этим законом», — заявил BBC News регулятор СМИ Ofcom.
«Мы осознаём растущий и быстрорастущий риск, который инструменты GenAI могут представлять в онлайн-пространстве, особенно для детей, и работаем над тем, чтобы платформа внедрила соответствующие меры безопасности для снижения этих рисков», — говорится в заявлении.
Новые законы Великобритании
В настоящее время создание порнографических дипфейков является незаконным, если они используются в порно из мести или содержат изображения детей.
Профессор МакГлинн участвовала в разработке поправки к закону, которая сделает незаконным создание или запрос всех неконсенсуальных порнографических дипфейков.
Правительство обязалось принять закон об этой поправке, но он ещё не вступил в силу.
«Каждая женщина должна иметь право выбирать, кому принадлежат её интимные изображения», — заявила баронесса Оуэн, предложившая поправку в Палате лордов.
«Крайне важно, чтобы эти модели не использовались таким образом, чтобы нарушалось право женщины на согласие, независимо от того, является ли она знаменитостью или нет», — продолжила леди Оуэн в заявлении для BBC News.
«Этот случай — наглядный пример того, почему правительство не должно больше откладывать реализацию поправок Палаты лордов», — добавила она.
Представитель Министерства юстиции заявил: «Откровенные фейки сексуального характера, созданные без согласия, унизительны и вредны.
«Мы отказываемся терпеть насилие в отношении женщин и девочек, которое оскверняет наше общество, поэтому мы приняли закон, запрещающий их создание как можно скорее».
Когда в 2024 году порнографические фейки с изображением Тейлор Свифт стали вирусными, X временно заблокировала поиск по её имени на платформе.
В то время X заявила, что «активно удаляет» изображения и принимает «соответствующие меры» в отношении аккаунтов, причастных к их распространению.
Weatherbed сообщил, что команда The Verge выбрала Тейлор Свифт для тестирования функции Grok Imagine именно из-за этого инцидента.
«Мы предположили — и теперь ошибочно — что если бы они ввели какие-либо меры предосторожности, препятствующие копированию образов знаменитостей, она была бы первой в списке, учитывая возникшие у них проблемы», — сказала она.
Мы связались с представителями Тейлор Свифт для получения комментариев.