Компания OpenAI заблокировала аккаунт ChatGPT, принадлежащий подозреваемому в массовой стрельбе в Британской Колумбии, более чем за полгода до нападения.
Компания, занимающаяся искусственным интеллектом, заявила, что в июне 2025 года в рамках системы обнаружения злоупотреблений и мер по борьбе с ними был выявлен аккаунт, принадлежащий Джесси Ван Рутселаару, который используется для совершения насильственных действий.
OpenAI заявила, что не уведомила власти об этом аккаунте, поскольку его использование не соответствовало установленному порогу достоверного или неизбежного плана причинения серьезного физического вреда другим.
Компания заявила, что выражает соболезнования всем пострадавшим от трагедии и что после нападения она «в инициативном порядке» связалась с канадской полицией, предоставив информацию о подозреваемом.
Ван Рутселаар подозревается в убийстве восьми человек в сельской местности Тамблер-Ридж 12 февраля, что стало одним из самых смертоносных нападений в истории Канады.
По данным Wall Street Journal, которая первой сообщила об этой истории, «около дюжины сотрудников обсуждали, следует ли принимать меры в отношении сообщений Ван Рутселаара».
Некоторые из них рассматривали использование подозреваемым инструмента ИИ как признак реального насилия и призывали руководителей уведомить власти, сообщило американское издание.
Но, как говорится в сообщении, руководство компании решило этого не делать.
В заявлении представитель OpenAI сказал: «В июне 2025 года мы заблаговременно выявили учетную запись, связанную с этим человеком [Джесси Ван Рутселааром], с помощью наших усилий по обнаружению и пресечению злоупотреблений, которые включают автоматизированные инструменты и расследования с участием людей для выявления неправомерного использования наших моделей в целях содействия насильственным действиям».
Они заявили, что компания продолжит оказывать поддержку расследованию полиции.
BBC обратилась за комментариями в Королевскую канадскую конную полицию.
OpenAI заявила, что будет придерживаться своей политики оповещения властей только в случаях непосредственной угрозы, поскольку слишком широкое оповещение может привести к непреднамеренному вреду.
Компания также заявила, что обучает ChatGPT предотвращать непосредственный вред в реальном мире, когда выявляет опасную ситуацию, и отказывать в помощи людям, пытающимся использовать сервис для незаконной деятельности.
Компания добавила, что постоянно пересматривает свои критерии направления обращений с экспертами и что рассматривает этот случай на предмет улучшений.
В результате смертельного нападения на среднюю школу Тамблер-Ридж пострадали еще 27 человек.
Ван Рутселаар был найден мертвым от огнестрельного ранения, нанесенного самому себе, в школе. Полиция сообщила, что подозреваемый родился биологическим мужчиной, но был идентифицирован как женщина.
Мать и сводный брат Ван Рутселаара были среди жертв стрельбы. Оба были найдены мертвыми в местном доме, сообщила полиция.
Мотив нападения пока неизвестен.