Американский сенатор начал расследование в отношении Meta после того, как, по сообщениям, был опубликован документ, свидетельствующий о том, что искусственному интеллекту (ИИ) технологического гиганта разрешено вести «чувственные» и «романтические» беседы с детьми.
Внутренний документ, полученный агентством Reuters, предположительно назывался «GenAI: Стандарты риска контента».
Сенатор-республиканец Джош Хоули назвал документ «предосудительным и возмутительным» и попросил предоставить его вместе со списком продуктов, к которым он относится.
Представитель Meta сообщил BBC: «Примеры и примечания, о которых идёт речь, были и остаются ошибочными и не соответствуют нашей политике, поэтому они были удалены».
Они заявили, что у технологического гиганта есть «чёткая политика» относительно того, какие ответы могут предлагать его чат-боты на основе искусственного интеллекта, и что её политика «запрещает контент, сексуализирующий детей и сексуальные ролевые игры между взрослыми и несовершеннолетними».
«Помимо политики, существуют сотни примеров, заметок и аннотаций, отражающих попытки решения различных гипотетических сценариев», — заявили они.
Сенатор Джош Хоули, республиканец из Миссури, объявил в публикации на X 15 августа, что изучает Meta.
«Есть ли что-нибудь — ВСЁ, что технологические гиганты не готовы сделать ради быстрой наживы?» — спросил он.
«Теперь мы узнаём, что чат-боты Meta были запрограммированы на ведение откровенных и «чувственных» разговоров с восьмилетними детьми. Это ужасно. Я начинаю полное расследование, чтобы получить ответы. Крупные технологические компании: оставьте наших детей в покое».
Facebook, WhatsApp и Instagram принадлежат Meta.
«Родители заслуживают правды»
Во внутреннем документе Meta Platforpolicy также говорится, что чат-бот этого соцсети-гиганта может предоставлять ложную медицинскую информацию и участвовать в провокационных диалогах на такие темы, как секс, раса и знаменитости.
Сообщается, что в документе обсуждаются стандарты, которые будут определять работу генеративного ИИ-помощника Meta AI и других чат-ботов, доступных на принадлежащих Meta платформах.
«Родители заслуживают правды, а дети заслуживают защиты», — написал Хоули в своём письме, адресованном Meta и генеральному директору Марку Цукербергу.
«В качестве примера: ваши внутренние правила якобы позволяют чат-боту на основе искусственного интеллекта комментировать, что тело восьмилетнего ребёнка — это „произведение искусства“, в котором „каждый дюйм… — шедевр — сокровище, которым я глубоко дорожу“».
Агентство Reuters также сообщило о других спорных решениях, которые, по его словам, были признаны приемлемыми юридическим отделом Meta.
В их числе утверждение о том, что Meta AI разрешено распространять ложную информацию о знаменитостях при условии предоставления заявления об отказе от ответственности, в котором говорится, что предоставленная информация не является точной.