Как бы вы себя чувствовали, если бы история ваших поисковых запросов в Интернете была опубликована в Интернете для просмотра другими?
Это может происходить с некоторыми пользователями Meta AI без их ведома, поскольку запросы людей к инструменту искусственного интеллекта и результаты публикуются в общедоступной ленте.
Один эксперт по интернет-безопасности сказал, что это «огромная проблема пользовательского опыта и безопасности», поскольку некоторые сообщения легко отследить до учетных записей социальных сетей.
Это означает, что некоторые люди могут невольно рассказывать миру о своих поисках — например, просить ИИ генерировать полуобнаженных персонажей или помогать им списывать на тестах.
Meta утверждает, что чаты по умолчанию являются закрытыми, и если пользователи делают сообщение общедоступным, они могут отозвать его позже.
Перед тем, как опубликовать публикацию, появляется сообщение: «Запросы, которые вы публикуете, общедоступны и видны всем… Избегайте распространения личной или конфиденциальной информации».
Однако, учитывая частный характер некоторых запросов, неясно, понимают ли пользователи, что их поисковые запросы публикуются в общедоступной ленте «Discover» в приложении и на сайте Meta AI, и что их можно отследить до других их социальных аккаунтов по именам пользователей и фотографиям профилей.
BBC обнаружила несколько примеров того, как люди загружали фотографии вопросов школьных или университетских тестов и просили Meta AI дать им ответы.
Один из чатов называется «Генеративный ИИ легко решает математические задачи».
Другой разговор пользователя, опубликованный публично, был посвящен тому, как они изучали вопросы, связанные со своим полом, и стоит ли им делать переход.
Также были поиски женщин и антропоморфных животных, одетых в очень мало одежды.
Один поиск, который можно было отследить до аккаунта человека в Instagram из-за его имени пользователя и фотографии профиля, попросил Meta AI сгенерировать изображение анимированного персонажа, лежащего на улице в одном нижнем белье.
«Вы контролируете»
Meta AI, запущенный ранее в этом году, доступен через его платформу социальных сетей Facebook, Instagram и Whatsapp.
Он также доступен как отдельный продукт с общедоступной лентой «Discover».
Пользователи могут сделать свои поиски конфиденциальными в настройках своей учетной записи.
Meta AI в настоящее время доступен в Великобритании через браузер, а в США его можно использовать через приложение.
В пресс-релизе от апреля, в котором был анонсирован Meta AI, компания заявила, что будет «лента Discover, место для обмена и изучения того, как другие используют ИИ».
«Вы контролируете ситуацию: в вашей ленте ничего не публикуется, если вы сами этого не решите», — говорится в сообщении.
Но Рэйчел Тобак, генеральный директор американской компании по кибербезопасности Social Proof Security, написала на X: «Если ожидания пользователя относительно того, как функционирует инструмент, не соответствуют действительности, вы получаете огромную проблему с пользовательским опытом и безопасностью».
Она добавила, что люди не ожидают, что их взаимодействие с чат-ботом ИИ будет опубликовано в ленте, обычно связанной с социальными сетями.
«Из-за этого пользователи непреднамеренно публикуют конфиденциальную информацию в публичной ленте, привязывая свою личность», — сказала она.