Флорида стала первым штатом США, подавшим в суд на компанию OpenAI из-за дизайна и безопасности чат-бота с искусственным интеллектом ChatGPT.
В масштабном судебном иске, поданном генеральным прокурором Джеймсом Утмайером, утверждается, что компания OpenAI и ее глава Сэм Альтман подвергают опасности и вызывают зависимость у детей, содействуют массовым расстрелам и подстрекают пользователей к самоубийству, стремясь к получению прибыли.
В своем ответном заявлении компания OpenAI сообщила, что «внедрила передовые в отрасли меры защиты и политики».
Судебный иск подан на фоне уголовного расследования, проводимого во Флориде, по вопросу о том, причастна ли компания ChatGPT к убийству двух человек во время массовой стрельбы в Университете штата Флорида в прошлом году.
В иске, поданном во Флориде, также содержится требование привлечь Альтмана к личной ответственности за предполагаемые «безрассудные и умышленные действия», включая «полное пренебрежение к риску для жизни людей, вызванному действиями его фирм», говорится в жалобе.
В отношении OpenAI были выдвинуты многочисленные обвинения, включая обманные и недобросовестные торговые практики, халатность, нарушение законов об ответственности за качество продукции, мошенническое введение в заблуждение и создание общественного беспорядка.
В обвинительном заключении упоминается массовая стрельба в Университете штата Флорида, а также убийство двух аспирантов Университета Южной Флориды, в ходе которого подозреваемый, по утверждению прокуратуры, задавал в ChatGPT вопросы о способах избавления от человеческих тел.
«Сэм Альтман и ChatGPT предпочли гонку за искусственным интеллектом безопасности наших детей. Они выбрали прибыль вместо общественной безопасности, и мы не собираемся это терпеть здесь, во Флориде. Поэтому мы привлечем их к ответственности», — заявил Утмайер на пресс-конференции в понедельник.
В заявлении для BBC компания OpenAI сообщила: «Потеря ребенка — это самая ужасная трагедия, которая может случиться с семьей, и мы знаем, что никакие слова не могут передать боль такой утраты».
«Искусственный интеллект — это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в серьезной защите, поэтому мы внедрили передовые в отрасли меры и политики защиты».
Компания заявила, что обеспечивает безопасность несовершеннолетних непосредственно в своих продуктах, указав на инструмент определения возраста и другие способы, с помощью которых родители могут контролировать, как их дети используют ИИ.
«Мы понимаем, что указание на эту работу не вернет ребенка, но мы полны решимости сделать все правильно», — заявил представитель OpenAI.
Этот иск подан на фоне многочисленных судебных разбирательств, в которых OpenAI подвергается критике за свою практику обеспечения безопасности, в том числе нескольких исков, в которых утверждается, что ChatGPT выступал в роли консультанта по самоубийствам и провоцировал пагубные заблуждения.
Семьи некоторых жертв массовой стрельбы в Тамблер-Ридж в Канаде в начале этого года также подали в суд на компанию OpenAI, которая заблокировала учетную запись подозреваемого в ChatGPT из-за проблемного использования, но не уведомила об этом власти.
Компания принесла извинения за то, что не связалась с полицией, но заявила, что показания подозреваемого не соответствуют критериям достоверного или неизбежного плана причинения серьезного физического вреда другим людям.
Другие крупные технологические компании также сталкиваются с юридическими проблемами.
Ранее в этом году отец жителя Флориды подал в суд на Google, заявив, что флагманский продукт компании в области искусственного интеллекта подпитывал бредовые идеи, которые подтолкнули его сына к самоубийству.
Тем временем компании, работающие в сфере социальных сетей, включая Meta (владелец Instagram), Snap Inc, TikTok и YouTube (принадлежащий Google), сталкиваются с шквалом судебных исков от штатов, школьных округов и частных лиц, утверждающих, что их продукты разработаны таким образом, чтобы вызывать привыкание.
В марте компании Meta и Google были признаны виновными в причинении вреда 20-летней истицей, которая заявила, что они намеренно создали свою платформу, чтобы она вызывала привыкание.
Эта победа ознаменовала собой заметный сдвиг в правовой сфере. Технологические компании долгое время утверждали, что не несут ответственности за контент, создаваемый пользователями, но, похоже, дела о производственной ответственности, связанные с дизайнерскими решениями, набирают обороты.
Утмайер и губернатор Флориды Рон Десантис, оба республиканцы, разочаровали компании, занимающиеся разработкой искусственного интеллекта, которые пользовались значительной поддержкой президента США Дональда Трампа.
Флорида выступила против попыток администрации Трампа воспрепятствовать регулированию искусственного интеллекта со стороны штатов США и недавно предложила «Билль о правах в отношении искусственного интеллекта» для граждан, направленный на укрепление конфиденциальности данных и защиту жителей от негативных финансовых последствий деятельности центров обработки данных.