Правительство Великобритании заявило о запрете так называемых приложений для «обнажения» людей в рамках усилий по борьбе с женоненавистничеством в интернете.
Новые законы, объявленные в четверг в рамках более широкой стратегии по сокращению вдвое насилия в отношении женщин и девочек, сделают незаконным создание и предоставление инструментов ИИ, позволяющих пользователям редактировать изображения, чтобы, казалось бы, снять с кого-то одежду.
Правительство заявило, что новые правонарушения будут основываться на существующих правилах, касающихся дипфейков сексуального характера и злоупотребления интимными изображениями.
«Женщины и девочки заслуживают безопасности как в интернете, так и вне его», — заявила министр технологий Лиз Кендалл.
«Мы не будем бездействовать, пока технологии используются в качестве оружия для злоупотребления, унижения и эксплуатации женщин посредством создания дипфейков сексуального характера без их согласия».
Создание откровенных изображений людей с помощью технологии дипфейк без их согласия уже является уголовным преступлением согласно Закону о безопасности в Интернете.
Кендалл заявила, что новое преступление, которое делает незаконным создание или распространение приложений для создания обнаженного тела, будет означать, что «те, кто получает от них прибыль или способствует их использованию, почувствуют всю силу закона».
Приложения для создания обнаженного тела или «раздевания» используют генеративный ИИ, чтобы реалистично создать впечатление, будто человек раздет на изображении или видео.
Эксперты предупреждают о росте числа таких приложений и о потенциальной опасности нанесения серьезного вреда жертвам поддельных изображений обнаженного тела, особенно при использовании для создания материалов о сексуальном насилии над детьми (CSAM).
В апреле уполномоченный по делам детей Англии, дама Рейчел де Соуза, призвала к полному запрету приложений для создания обнаженного тела.
«Сам факт создания такого изображения по праву является незаконным — технология, позволяющая это сделать, также должна быть незаконной», — говорится в отчете.
В четверг правительство заявило, что «объединит усилия с технологическими компаниями» для разработки методов борьбы со злоупотреблением интимными изображениями.
Это будет включать продолжение работы с британской компанией SafeToNet, занимающейся технологиями безопасности, говорится в сообщении.
Британская компания разработала программное обеспечение на основе ИИ, которое, по ее утверждению, может идентифицировать и блокировать контент сексуального характера, а также блокировать камеры, когда они обнаруживают, что ведется съемка сексуального контента.
Такие технологии основаны на существующих фильтрах, реализованных такими платформами, как Meta, для обнаружения и пометки потенциальной наготы на изображениях, часто с целью предотвращения того, чтобы дети делали или распространяли интимные изображения самих себя.
«Нет причин для существования»
Планы по запрету приложений, добавляющих обнаженность, появились после предыдущих призывов благотворительных организаций по защите детей к правительству принять меры против этих технологий.
Фонд интернет-надзора (IWF), чья горячая линия Report Remove позволяет лицам младше 18 лет конфиденциально сообщать о своих откровенных изображениях в интернете, заявил, что 19% подтвердивших сообщения заявили о том, что часть или все их изображения были отредактированы.
Исполнительный директор фонда Керри Смит приветствовала эти меры.
«Мы также рады видеть конкретные шаги по запрету этих так называемых приложений для получения обнаженных изображений, которые не имеют оснований существовать как продукт», — сказала она.
«Подобные приложения подвергают реальных детей еще большему риску, и мы видим, что созданные изображения собираются в самых темных уголках интернета».
Однако, хотя детская благотворительная организация NSPCC приветствовала эту новость, ее директор по стратегии доктор Мария Неофиту заявила, что она «разочарована» отсутствием аналогичных «амбиций» по введению обязательной защиты на уровне устройств.
Эта благотворительная организация входит в число тех, кто призывает правительство упростить использование технологий для выявления и предотвращения распространения материалов сексуального характера на своих сервисах, например, в личных сообщениях.
В четверг правительство заявило, что сделает «невозможным» для детей делать, делиться или просматривать изображения обнаженного тела на своих телефонах.
Оно также стремится запретить инструменты искусственного интеллекта, предназначенные для создания или распространения материалов сексуального характера.