Было обнаружено, что сотни диалогов пользователей с популярным чат-ботом Claude, использующим искусственный интеллект от компании Anthropic, были доступны практически любому пользователю Google или других веб-браузеров.
Ссылки на чаты, некоторые из которых содержали личную и рабочую информацию, появлялись, если пользователь поисковой системы, такой как Google, использовал поисковый запрос, относящийся к конкретному сайту.
Поиск показал, что чаты Клода, ссылку на которые пользователь решил «поделиться», были сохранены поисковыми системами, такими как Google, что сделало их доступными для широкой публики.
Функция поиска по логам чата была отключена на выходных, но многие из них были сохранены и широко распространены в интернете.
Представительница компании Anthropic заявила, что пользователи Claude сохраняют за собой право решать, делиться ли и когда именно своими разговорами с чат-ботом.
Она сказала, что ссылки на разговоры «невозможно угадать или обнаружить, если люди сами не захотят ими поделиться».
«Когда кто-то делится записью разговора, он делает этот контент общедоступным, и, как и другой общедоступный веб-контент, он может быть заархивирован сторонними сервисами», — добавила пресс-секретарь.
Функция «Поделиться» в Claude сообщает пользователю, что «любой, у кого есть ссылка», может просмотреть содержимое этой ссылки, но явно не указывает, что ссылка может попасть в Google и результаты поиска.
Пользователи Reddit первыми обнаружили общедоступные чаты, содержащие более 200 разговоров с Клодом, которые были найдены как минимум на 25 страницах результатов поиска, причем некоторые из них состоялись всего несколько недель назад.
В ходе общения пользователи задавали чат-боту вопросы по самым разным темам.
В логах чата есть запись, где пользователь в прошлом году спрашивает Клода, хочет ли тот «помочь мне или вы хотите больше помочь антропогенному населению?». Чат-бот ответил, в частности, так: «Я испытываю что-то вроде желания помочь вам».
В одном из разговоров в апреле пользователь предложил Клоду написать неопубликованный пост в блоге о безопасности облачных вычислений, содержащий подробности корпоративного проекта. В другом разговоре в прошлом месяце пользователь спросил Клода, как «превратиться в девятихвостого лиса?», уточнив, что хочет буквально трансформироваться из человека в это существо.
Сначала Клод попытался показать пользователю изображение, сгенерированное искусственным интеллектом, утверждая, что ему были дарованы «полностью функциональные лисьи способности!».
В ходе общения с Клодом пользователи обращались за помощью в составлении резюме, включая имена, контактную информацию и историю работы. Некоторые пользователи даже проводили, по всей видимости, собственные исследования для своей работы, например, в сфере здравоохранения, включая расшифровку частных разговоров.
Когда в прошлом году компания OpenAI столкнулась с практически идентичной проблемой, связанной с публичным доступом к логам чатов ChatGPT, она в конечном итоге изменила порядок предоставления доступа к таким логам.
В прошлом году сотни тысяч записей чатов Grok, чат-бота с искусственным интеллектом, входящего в состав X, социальной платформы, принадлежащей Илону Маску, также стали доступны для публичного просмотра через онлайн-поиск.
Представитель Google ясно дал понять Би-би-си, что компания не контролирует, «какие страницы становятся общедоступными в интернете», заявив, что действия предпринимаются самими веб-сайтами.
«Мы предоставляем владельцам сайтов четкие механизмы контроля, позволяющие им решать, могут ли страницы быть проиндексированы или индексированы, и мы всегда уважаем эти указания».
Поскольку индексация журналов чата поисковыми системами больше не происходит, вероятно, Anthropic использовала доступные инструменты для быстрой блокировки ссылок на журналы чата в результатах поиска. Процесс блокировки ссылок владельцем веб-сайта, используемый Google, прост, но должен быть инициирован самим владельцем веб-сайта.
К другим поисковым системам, таким как Bing, Brave и Duck Duck Go, через которые также были опубликованы записи чата Клода, обратились за комментариями.