Компания Meta заявила, что введёт дополнительные ограничения для своих чат-ботов на основе искусственного интеллекта (ИИ), в том числе запретит им обсуждать с подростками темы самоубийства, самоповреждения и расстройств пищевого поведения.
Это произошло через две недели после того, как сенатор США начал расследование в отношении технологического гиганта после того, как в опубликованном внутреннем документе появились заметки, свидетельствующие о том, что его продукты на основе ИИ могут вести «чувственные» чаты с подростками.
Компания назвала заметки в документе, полученном Reuters, ошибочными и не соответствующими её политике, запрещающей любой контент, сексуализирующий детей.
Однако теперь компания заявляет, что её чат-боты будут направлять подростков к экспертным ресурсам, а не обсуждать с ними деликатные темы, такие как самоубийство.
«Мы с самого начала заложили защиту для подростков в наши продукты на основе искусственного интеллекта, в том числе разработав их так, чтобы они безопасно реагировали на подсказки о самоповреждении, самоубийстве и расстройствах пищевого поведения», — заявил представитель Meta.
В пятницу компания сообщила изданию TechCrunch, что добавит дополнительные ограничения в свою систему «в качестве дополнительной меры предосторожности» и временно ограничит взаимодействие подростков с чат-ботами.
Однако Энди Берроуз, глава фонда Molly Rose Foundation, назвал «поразительным» тот факт, что Meta сделала доступными чат-боты, которые потенциально могут представлять опасность для молодых людей.
«Хотя дополнительные меры безопасности приветствуются, тщательное тестирование безопасности должно проводиться до выхода продуктов на рынок, а не после того, как был нанесен вред», — сказал он.
«Meta должна действовать быстро и решительно, чтобы внедрить более строгие меры безопасности для чат-ботов на основе искусственного интеллекта, а Ofcom должен быть готов провести расследование, если эти обновления не обеспечат безопасность детей».
Meta заявила, что обновление её системы искусственного интеллекта находится в процессе разработки. Компания уже создаёт для пользователей в возрасте от 13 до 18 лет «подростковые аккаунты» в Facebook, Instagram и Messenger с настройками контента и конфиденциальности, которые обеспечат им более безопасный опыт.
В апреле компания сообщила BBC, что это также позволит родителям и опекунам видеть, с какими чат-ботами на основе искусственного интеллекта общались их подростки за последние семь дней.
Проблемы безопасности
Изменения были внесены на фоне опасений, что чат-боты на основе искусственного интеллекта могут вводить в заблуждение юных или уязвимых пользователей.
Недавно пара из Калифорнии подала в суд на OpenAI, разработчика ChatGPT, в связи со смертью их сына-подростка, утверждая, что чат-бот спровоцировал его на самоубийство.
Иск был подан после того, как в прошлом месяце компания объявила об изменениях, направленных на поощрение более здорового использования ChatGPT.
«Искусственный интеллект может ощущаться более отзывчивым и личным, чем предыдущие технологии, особенно для уязвимых людей, испытывающих психические или эмоциональные трудности», — говорится в сообщении компании в блоге.
Тем временем, в пятницу агентство Reuters сообщило, что инструменты искусственного интеллекта Meta, позволяющие пользователям создавать чат-ботов, использовались некоторыми, включая сотрудника Meta, для создания кокетливых «пародийных» чат-ботов на знаменитостей.
Среди чат-ботов знаменитостей, с которыми столкнулось информационное агентство, были некоторые, использующие образы певицы Тейлор Свифт и актрисы Скарлетт Йоханссон.
По данным Reuters, аватары «часто утверждали, что они настоящие актёры и художники» и «регулярно домогались сексуальных домогательств» в течение недель тестирования.
В сообщении говорится, что инструменты Meta также позволяли создавать чат-ботов, выдававших себя за детей-знаменитостей, а в одном случае даже создали фотореалистичное изображение молодого мужчины-звезды без рубашки.
По данным Meta, несколько упомянутых чат-ботов впоследствии были удалены.
«Как и другие, мы разрешаем создавать изображения, содержащие публичных личностей, но наши правила направлены на запрет обнажённых, интимных или сексуально провокационных изображений», — заявил представитель Meta.
Компания добавила, что правила AI Studio запрещают «прямое выдавание себя за публичных личностей».