Версия инструмента искусственного интеллекта (ИИ), которая, по словам компании, была слишком мощной для публичного выпуска, только что стала доступна широкой публике.
Claude Fable 5 — это версия программы искусственного интеллекта Claude Mythos от Anthropic, которая вызвала серьезные опасения у лидеров технологической, финансовой и государственной сфер, когда в апреле была выпущена в закрытом режиме для предварительного просмотра и тестирования.
Некоторые опасаются, что этот инструмент настолько мощный, что может представлять угрозу финансовой безопасности, хотя другие ставят под сомнение, насколько ажиотаж вокруг него является маркетинговой уловкой.
Компания Anthropic заявила во вторник, что Fable будет выпущена с мерами безопасности и ограничениями для пользователей, хотя и отметила, что «выпуск модели с такими возможностями сопряжен с рисками».
«Возможности Fable превосходят возможности любой модели, которую мы когда-либо выпускали в широкую продажу», — добавили в компании.
Когда Mythos был впервые предоставлен небольшой группе организаций для предварительного ознакомления с инструментом, компания Anthropic заявила, что сделала это потому, что инструмент был настолько интеллектуальным, что мог представлять опасность из-за своей способности взламывать компьютерные системы или использовать уязвимости.
В апреле министр финансов Канады Франсуа-Филипп Шампань заявил Би-би-си, что внимание к Мифосу оправдано, отчасти потому, что «это нечто совершенно неизвестное».
Между тем, несмотря на продолжающийся судебный процесс Anthropic против Министерства обороны США из-за отказа разрешить использование правительством своих инструментов ИИ, американские правительственные учреждения также тестируют Mythos.
Ожидается, что компания Anthropic вскоре станет публичной, поскольку ее частная оценка приблизилась к 1 триллиону долларов (747 миллиардам фунтов стерлингов). Последовательная демонстрация все более совершенных и широких возможностей искусственного интеллекта подчеркивает ее ценность для инвесторов.
Компания также сообщила во вторник, что примерно 150 групп, получивших доступ к предварительной версии Mythos, теперь получат доступ к Claude Mythos 5, которая не имеет ограничений в отношении кибербезопасности или биологических аспектов, в зависимости от конкретных задач организации.
На сегодняшний день группы и компании, использующие Mythos, сообщили Anthropic об обнаружении более 10 000 критических уязвимостей безопасности в своих системах.
Компания Anthropic заявила, что обновленный доступ был ограничен «небольшой группой специалистов по кибербезопасности и поставщиков инфраструктуры», но ожидается, что в ближайшее время он будет предоставлен и другим категориям пользователей.
«Мы намерены расширить доступ к Mythos 5 посредством более широкой программы доверенного доступа», — заявила компания.
Как Fable, так и Mythos, которые по сути представляют собой одну и ту же модель, но с различными мерами безопасности и уровнями доступа, могут работать «без присмотра» по командам человека в течение более длительного времени, «чем любые предыдущие модели Claude», — добавил Антропик.
На прошлой неделе соучредитель компании Anthropic Джек Кларк заявил в программе BBC Newsnight, что возможности инструментов искусственного интеллекта расширяются настолько быстро, что компания считает необходимым предоставить общественности способ замедлить развитие этой технологии.
«Хотелось бы иметь возможность убрать ногу с педали газа и нажать на тормоз», — сказал Кларк. «Сейчас в индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза».