Министр обороны США Пит Хегсет пообещал исключить Anthropic из цепочки поставок своего ведомства, если компания откажется разрешить использование своей технологии искусственного интеллекта (ИИ) в военных целях.
Эта угроза была высказана во вторник на встрече в Пентагоне, которую Хегсет потребовал провести с главой Anthropic Дарио Амодеи, сообщил Би-би-си источник, знакомый с ходом обсуждений.
«Мы продолжили добросовестные переговоры о нашей политике использования, чтобы гарантировать, что Anthropic сможет и дальше поддерживать миссию правительства по обеспечению национальной безопасности в соответствии с тем, что наши модели могут делать надежно и ответственно», — говорится в заявлении Anthropic.
Высокопоставленный представитель Пентагона заявил, что у Anthropic есть время до вечера пятницы, чтобы выполнить требование.
Источник сообщил Би-би-си, что тон обсуждения между Хегсетом и Амодеи был дружелюбным, но Амодеи обозначил то, что Anthropic считает своими «красными линиями».
К ним относится участие в автономных кинетических операциях, в которых инструменты ИИ принимают окончательные решения о наведении военных целей без вмешательства человека.
Использование инструментов Anthropic для массового внутреннего наблюдения представляет собой еще одну «красную линию», сказал источник.
Однако представитель Пентагона сообщил Би-би-си, что нынешний конфликт между ведомством и Anthropic не связан с использованием автономного оружия или массовым наблюдением.
Чиновник сказал, что если Anthropic не выполнит требования, Хегсет обеспечит применение к компании Закона об оборонном производстве.
Эта мера может заставить руководителей Anthropic разрешить Пентагону неограниченное использование в целях национальной безопасности.
Официальный представитель добавил, что Пентагон одновременно отнесет Anthropic к риску в цепочке поставок.
Представитель Anthropic заявил, что Амодей «выразил признательность за работу Министерства и поблагодарил министра за его службу» во время встречи с Хегсетом.
Anthropic — создатель чат-бота с искусственным интеллектом Claude и одна из четырех компаний, занимающихся ИИ, получивших контракты от Пентагона прошлым летом.
Google, OpenAI (создатель ChatGPT) и xAI Илона Маска, создавшая чат-бота с ИИ Grok, также получили контракты на сумму до 200 миллионов долларов (148 миллионов фунтов стерлингов) каждая.
Ранее представитель Министерства обороны Эмиль Майкл заявлял, что ведомство хочет, чтобы OpenAI, Google, xAI и Anthropic позволили Пентагону «использовать любую модель для всех законных случаев применения».
Компания Anthropic последовательно стремится позиционировать себя как компанию, применяющую более ориентированный на безопасность подход к исследованиям в области ИИ по сравнению с конкурентами.
Она регулярно публикует отчеты о безопасности своей продукции.
В одном из таких отчетов прошлого года признавалось, что ее технология ИИ была «использована в качестве оружия» хакерами для проведения сложных кибератак.
Имидж компании был поставлен под сомнение после сообщений о том, что американские военные использовали ее модель ИИ Claude во время операции, которая привела к захвату бывшего президента Венесуэлы Николаса Мадуро в январе.
Anthropic стала первой технологической компанией, получившей разрешение на работу в секретных военных сетях Пентагона, и имеет партнерские отношения с такими компаниями, как Palantir.
Источники сообщают BBC, что модель Claude использовалась в операции по захвату Мадуро по контракту с Palantir.
Позиция Пентагона заключается в том, что компания Anthropic не должна вмешиваться в то, как Пентагон использует её продукцию.
Наблюдатели говорят, что нынешний конфликт между Anthropic и Пентагоном возник из-за нарушения доверия между двумя сторонами.
«Им нужно прийти к решению», — считает Эмилия Пробаско, старший научный сотрудник Центра безопасности и новых технологий Джорджтаунского университета.
«На мой взгляд, мы должны предоставлять людям, которых мы привлекаем к работе, все возможные преимущества. Мы обязаны им разобраться в этом», — сказала Пробаско.