Компания OpenAI запустила в США новую функцию ChatGPT, которая может анализировать медицинские записи пользователей, чтобы давать им более точные ответы, но активисты предупреждают, что это вызывает опасения по поводу конфиденциальности.
Компания хочет, чтобы люди делились своими медицинскими записями вместе с данными из таких приложений, как MyFitnessPal, которые будут анализироваться для предоставления персонализированных рекомендаций.
OpenAI заявила, что разговоры в ChatGPT Health будут храниться отдельно от других чатов и не будут использоваться для обучения инструментов ИИ, а также уточнила, что это не предназначено для использования в целях «диагностики или лечения».
Эндрю Кроуфорд из американской некоммерческой организации «Центр демократии и технологий» заявил, что крайне важно поддерживать «надежные» меры защиты информации о здоровье пользователей.
Неясно, будет ли эта функция внедрена в Великобритании и когда это произойдет.
«Новые инструменты искусственного интеллекта для здравоохранения обещают расширить возможности пациентов и улучшить результаты лечения, но данные о здоровье — это одна из самых конфиденциальных сведений, которыми люди могут делиться, и её необходимо защищать», — сказал Кроуфорд.
Он сказал, что компании, занимающиеся ИИ, «активно работают» над поиском способов повышения персонализации своих услуг для увеличения их ценности.
«Особенно с учетом того, что OpenAI начинает изучать рекламу как бизнес-модель, крайне важно, чтобы разделение между такого рода данными о здоровье и воспоминаниями, которые ChatGPT собирает из других разговоров, было безупречным», — сказал он.
По данным OpenAI, более 230 миллионов человек еженедельно задают чат-боту вопросы о своем здоровье и самочувствии.
В своем блоге компания заявила, что ChatGPT Health «улучшила конфиденциальность для защиты конфиденциальных данных».
Пользователи могут делиться данными из таких приложений, как Apple Health, Peloton и MyFitnessPal, а также предоставлять медицинские записи, которые могут быть использованы для предоставления более релевантных ответов на их вопросы о здоровье.
OpenAI заявила, что ее функция для здоровья разработана для «поддержки, а не замены медицинской помощи».
«Переломный момент»
Чат-боты и инструменты на основе генеративного ИИ могут быть склонны к генерации ложной или вводящей в заблуждение информации, часто излагая ее в очень беспристрастной, убедительной форме.
Но Макс Синклер, генеральный директор и основатель платформы маркетинга на основе ИИ Azoma, заявил, что OpenAI позиционирует своего чат-бота как «доверенного медицинского консультанта».
Он назвал запуск ChatGPT Health «переломным моментом», который может «изменить как качество медицинской помощи, так и розничную торговлю», влияя не только на то, как люди получают доступ к медицинской информации, но и на то, что они могут купить для лечения своих проблем.
Синклер сказал, что эта технология может стать «переломным моментом» для OpenAI на фоне усиления конкуренции со стороны конкурирующих чат-ботов с искусственным интеллектом, особенно Gemini от Google.
Компания заявила, что первоначально предоставит доступ к Health «небольшой группе первых пользователей» и открыла список ожидания для тех, кто хочет получить доступ.
Помимо недоступности в Великобритании, сервис также не запущен в Швейцарии и Европейской экономической зоне, где технологические компании должны соблюдать строгие правила обработки и защиты пользовательских данных.
Но в США, по словам Кроуфорда, запуск означает, что некоторые компании, не связанные защитой конфиденциальности, «будут собирать, передавать и использовать данные о здоровье людей».
«Поскольку каждая компания сама устанавливает правила сбора, использования, обмена и хранения медицинских данных, неадекватная защита данных и соответствующая политика могут поставить конфиденциальную медицинскую информацию под реальную угрозу», — сказал он.