OpenAI планирует разрешить более широкий спектр контента, включая эротику, в своём популярном чат-боте ChatGPT, в рамках своей стратегии «относиться к взрослым пользователям как к взрослым», заявил руководитель компании Сэм Альтман.
В публикации на X во вторник Альтман заявил, что будущие версии популярного чат-бота смогут вести себя более человечно — «но только если вы этого хотите, а не потому, что мы стремимся к максимальному использованию».
Этот шаг, напоминающий недавнее появление Илоном Маском xAI двух сексуально откровенных чат-ботов для Grok, может помочь OpenAI привлечь больше платных подписчиков.
Это также, вероятно, усилит давление на законодателей с целью введения более жёстких ограничений для пользователей чат-ботов.
Компания OpenAI не ответила на запросы BBC о комментариях после публикации Альтмана.
Изменения, объявленные компанией, последовали за тем, как в начале этого года на неё подали в суд родители американского подростка, покончившего с собой.
Иск, поданный Мэттом и Марией Рейн, родителями 16-летнего Адама Рейна, стал первым судебным иском, обвиняющим OpenAI в неправомерном причинении смерти.
Калифорнийская пара раскритиковала родительский контроль компании, который, по её словам, был разработан для поощрения более здорового использования чат-бота, заявив, что он не был достаточно эффективным.
Семья предоставила записи переписки Адама, умершего в апреле, с ChatGPT, на которых видно, что он объясняет свои мысли о самоубийстве.
Альтман заявил, что OpenAI ранее сделала ChatGPT «довольно строгим, чтобы обеспечить соблюдение мер безопасности в отношении лиц с психическим здоровьем».
«Мы понимаем, что это сделало его менее полезным/приятным для многих пользователей, не страдающих психическими заболеваниями, но, учитывая серьёзность проблемы, мы хотели сделать всё правильно», — сказал Альтман.
Он отметил, что теперь компании удалось снизить серьёзные риски для психического здоровья и получить новые инструменты, позволяющие «безопасно ослабить ограничения в большинстве случаев».
«В декабре, по мере более полного внедрения возрастного ценза и в рамках нашего принципа «относитесь к взрослым пользователям как к взрослым», мы разрешим ещё больше, например, эротику для лиц, прошедших проверку на совершеннолетие», — сказал он.
Критики утверждают, что решение OpenAI разрешить эротику на платформе свидетельствует о необходимости усиления регулирования на федеральном и региональном уровнях.
«Как они собираются гарантировать, что дети не смогут получить доступ к разделам ChatGPT, предназначенным только для взрослых и содержащим эротику?» — спросила Дженни Ким, партнёр юридической фирмы Boies Schiller Flexner. «Open AI, как и большинство крупных технологических компаний в этой сфере, просто использует людей как подопытных кроликов».
Ким участвует в судебном процессе против Meta, утверждая, что алгоритм Instagram компании наносит вред психическому здоровью подростков.
«Мы даже не знаем, сработает ли их возрастное ограничение», — сказала она.
В апреле TechCrunch сообщил, что OpenAI позволяет аккаунтам, зарегистрированным как несовершеннолетние, создавать графические эротические материалы.
В то время OpenAI заявила, что компания разрабатывает решение для ограничения такого контента.
Согласно исследованию, опубликованному в этом месяце некоммерческой организацией «Центр демократии и технологий» (CDT), каждый пятый студент сообщает, что у него или у кого-то из его знакомых были романтические отношения с ИИ.
В понедельник губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, принятый законодательным собранием штата, который запрещал разработчикам предлагать детям чат-ботов на основе ИИ, если компании не гарантировали, что это программное обеспечение не будет способствовать развитию вредоносного поведения.
В заявлении, сопровождавшем его вето, Ньюсом заявил, что «подростки должны научиться безопасно взаимодействовать с системами ИИ».
На общенациональном уровне Федеральная торговая комиссия США (FTC) начала расследование взаимодействия чат-ботов на основе ИИ с детьми.
В прошлом месяце в Сенате США был представлен двухпартийный законопроект, который классифицирует чат-ботов на основе ИИ как продукты. Закон позволит пользователям подавать иски о привлечении к ответственности разработчиков чат-ботов.
Заявление Альтмана во вторник прозвучало на фоне сомнений скептиков относительно быстрого роста стоимости компаний, занимающихся технологиями ИИ.
Выручка OpenAI растёт, но компания никогда не была прибыльной.
Профессор бизнеса Тулейнского университета Роб Лалка, автор недавно вышедшей книги «Венчурные алхимики», заявил, что крупные компании, занимающиеся ИИ, ведут борьбу за долю рынка.
«Ни одна компания никогда не добивалась такого признания, как OpenAI с ChatGPT», — заявил Лалка в интервью BBC.
«Им нужно было продолжать двигаться по этой экспоненциальной кривой роста, стремясь к максимально возможному доминированию на рынке».