Новые инструменты и возможности искусственного интеллекта (ИИ) от Google, Microsoft и xAI теперь будут тестироваться Министерством торговли США, прежде чем они будут выпущены в открытый доступ.
Технологические компании согласились добровольно представить свои модели для тестирования через Центр стандартов и инноваций в области ИИ (CAISI) Министерства торговли.
Новые соглашения являются расширением договоренностей между компаниями, занимающимися ИИ, такими как OpenAI и Anthropic, заключенных во время администрации Байдена, и предусматривают оценку возможностей и безопасности моделей ИИ от всех компаний.
«Эти расширенные отраслевые сотрудничества помогают нам масштабировать нашу работу в интересах общества в критический момент», — сказал директор CAISI Крис Фалл.
В целом, оценка инструментов ИИ будет охватывать «тестирование, совместные исследования и разработку передовых методов, связанных с коммерческими системами ИИ».
Самый известный инструмент искусственного интеллекта Google, разработанный через дочернюю компанию DeepMind, — это Gemini, чат-бот, широко доступный в продуктах Google, но теперь также используемый в оборонных и военных ведомствах США.
Самый известный инструмент искусственного интеллекта Microsoft — это CoPilot, а единственный продукт ИИ от xAI — это Grok, чат-бот, который подвергся широкой критике из-за проблем, связанных с раздеванием людей на изображениях.
Во вторник CASI заявила, что провела 40 предыдущих оценок инструментов ИИ, включая оценку и тестирование некоторых «передовых моделей, которые еще не выпущены».
Центр не уточнил, какие модели были запрещены к выпуску для широкой публики.
В сообщении в корпоративном блоге, опубликованном после объявления CAISI, Microsoft заявила, что уже тестирует свои модели ИИ, но что «тестирование на предмет национальной безопасности и крупномасштабных рисков для общественной безопасности обязательно должно быть результатом сотрудничества с правительствами».
Представительница DeepMind, подразделения Google, отказалась от комментариев. Представитель SpaceX, компании Илона Маска, которая теперь контролирует xAI, не ответил на запрос о комментарии.
Привлечение большего числа компаний для исследований и тестирования безопасности коммерческих инструментов ИИ знаменует собой отход от политики администрации Трампа, которая в основном придерживалась невмешательского подхода к надзору или регулированию компаний, занимающихся ИИ и технологиями.
В прошлом году президент США Дональд Трамп подписал ряд исполнительных указов, которые легли в основу «Плана действий в области ИИ» его администрации, который, по его словам, «устранит бюрократию и обременительное регулирование» в отношении разработки ИИ и обеспечит «победу» США за счет развития и контроля над технологиями.
Но с расширением использования ИИ американскими военными и недавними заявлениями компании Anthropic о том, что она разработала модель под названием Mythos, которая слишком мощна для публичного использования, Белый дом, похоже, меняет свою позицию.
Как ранее сообщала BBC, высокопоставленные сотрудники администрации Трампа встречались в прошлом месяце с генеральным директором Anthropic Дарио Амодеи, несмотря на то, что компания погрязла в судебном процессе с Министерством обороны США из-за отказа Anthropic отказаться от мер безопасности для использования своих моделей правительством.