Реклама инструмента для редактирования видео и изображений, подразумевавшая возможность цифрового удаления одежды с женщины, была запрещена британским регулятором рекламы.
В рекламе PixVideo — AI Video Maker на YouTube, показанной в январе, демонстрировались изображения молодой женщины «до» и «после»: на первом изображении на животе были наложены красные каракули, а на втором — видны части обнаженной кожи.
Внизу изображения был текст: «Удалите все», за которым следовал смайлик с глазами-сердечками.
Восемь человек пожаловались в Управление по стандартам рекламы (ASA) на то, что реклама сексуализирует и объективирует женщин, является безответственной, оскорбительной и вредной.
Неясно, является ли изображение в рекламе изображением реального человека или же оно создано искусственным интеллектом. ASA сообщила BBC, что такая оценка не входила в рамки их расследования.
Регулятор заявил, что PixVideo не разрешает своим пользователям снимать одежду с цифровых изображений для создания контента сексуального характера, но у зрителей могло сложиться впечатление, что это возможно.
«Поскольку реклама подразумевала, что зрители могут использовать приложение для снятия одежды с женщины, мы посчитали, что она одобряет цифровую обработку и обнажение женских тел без их согласия», — говорится в заявлении агентства.
Оно добавило, что реклама «безответственна, содержит вредный гендерный стереотип и может вызвать серьезное оскорбление».
Компания Saeta Tech, владеющая PixVideo, заявила, что понимает, почему реклама могла вызвать возмущение, но возложила вину на её подачу и содержание, а не на предполагаемое использование своего продукта.
Компания заявила, что запрещает создание контента с обнажёнными или откровенно сексуальными изображениями и использует автоматизированные инструменты обнаружения и блокировки для предотвращения генерации подобных изображений.
Компания согласилась больше не показывать эту рекламу и приостановила всю рекламную деятельность на время проведения внутреннего анализа.
Проблема приложений, которые «раздевают» женщин и девочек без их согласия, попала в заголовки новостей в январе, когда чат-бот Илона Маска Grok был использован для рассылки сексуализированных изображений на X.
После глобального резонанса Маск впоследствии заблокировал Grok от генерации таких изображений в юрисдикциях, где это незаконно, но X по-прежнему сталкивается с расследованиями и судебными исками по всему миру.
В декабре правительство Великобритании объявило о введении запрета на создание и распространение инструментов искусственного интеллекта, позволяющих пользователям редактировать изображения, имитируя удаление одежды.
Новые правонарушения будут основываться на существующих правилах, касающихся дипфейков сексуального характера и злоупотребления интимными изображениями.