Соучредитель Anthropic Джек Кларк призвал к созданию возможностей для замедления развития искусственного интеллекта (ИИ), предупреждая, что технология приближается к точке, когда она сможет развиваться без участия человека.
«Хотелось бы иметь возможность убрать ногу с педали газа и нажать на тормоз», — сказал Кларк в интервью программе BBC Newsnight. «Сейчас в индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза».
Он подчеркнул, что люди, посредством государственной политики, должны сохранять контроль над системами искусственного интеллекта, которые будут только становиться все более мощными и оказывать все более широкое влияние на общество.
«Миру необходимо задуматься, и в конечном итоге нам нужно разработать новые правила, которые позволят нам быть уверенными в этих системах», — сказал он.
Популярный чат-бот Anthropic, Клод, уже работает на программном коде, 80% которого система написала сама. Достичь 100% возможно в течение двух лет, сказал Кларк, и это «будет иметь огромные последствия».
Кларк не стал описывать, как можно создать «тормозную педаль» для исследований и разработок в области ИИ, но провел параллель между ИИ и нефтяным бумом и магнатами начала прошлого века.
«В ответ общество разработало разумную политику и нормативно-правовую базу, которые вселили в людей уверенность в нефть и в те выгоды, которые нефть может принести миру, и позволили не беспокоиться о личностях людей, возглавляющих компании», — сказал Кларк. «Именно к этому мы сейчас и пришли».
Тем не менее, на этой неделе Anthropic приветствовала указ президента США Дональда Трампа по вопросам ИИ, который относительно мягко воздействует на компании.
В нем не требовалось, чтобы компании, занимающиеся искусственным интеллектом, проходили тестирование на безопасность со стороны правительства, которое по-прежнему остается добровольным.
Крупнейшие компании, занимающиеся разработкой технологий искусственного интеллекта, включая Anthropic, OpenAI и Google, также не заявляли о приостановке собственных исследований.
Компания Anthropic с момента своего основания пять лет назад развивалась настолько быстро, что готовится к выходу на фондовый рынок.
Это может стать одним из первых публичных размещений акций новой компании, занимающейся искусственным интеллектом, и одним из самых дорогих размещений акций в истории, поскольку, по оценкам частных инвесторов, рыночная капитализация Anthropic составляет почти 1 триллион долларов (745 миллиардов фунтов стерлингов).
Кларк заявил, что мотивация компании Anthropic публично обсуждать растущие возможности технологий искусственного интеллекта заключается не в дальнейшем улучшении своей репутации среди платящих клиентов.
Он просто хочет «рассказать миру о том, что мы видим внутри этих компаний, использующих эту необычную технологию».
С момента своего основания генеральным директором Дарио Амодеи, Кларком и несколькими другими руководителями компания Anthropic позиционирует себя как организацию, открыто заявляющую о потенциальных рисках, связанных с искусственным интеллектом.
Компания даже вступила в публичный спор с Министерством обороны США из-за опасений, что ее инструменты искусственного интеллекта будут использоваться для массового наблюдения за американцами и ведения автономной войны.
«Я беспокоюсь за своих детей, если мы, как общество, не начнем серьезно обсуждать последствия дальнейшего развития ИИ», — сказала Кларк в интервью Newsnight. «Есть потенциально большие преимущества. Но есть и риски».
Кларк добавил, что одним из рисков является нарушение экономической ситуации, поскольку существуют опасения, что технологии искусственного интеллекта, такие как «агенты» — по сути, отдельные боты с ИИ, выполняющие рутинные задачи относительно автономно, — могут взять на себя определенные рабочие места.
Крупные технологические компании в течение последнего года проводили массовые увольнения, часто ссылаясь на растущую способность инструментов искусственного интеллекта выполнять работу сотен или даже тысяч инженеров-программистов.
Кларк заявил, что люди, обладающие большей креативностью и имеющие больше качественных идей, на самом деле могут иметь преимущество перед технологиями искусственного интеллекта.
«Остаются открытыми вопросы о том, могут ли системы ИИ быть по-настоящему креативными… пока нет убедительных доказательств этому», — добавил он. «В Anthropic нас сейчас ограничивает скорее способность генерировать хорошие идеи, чем способность разрабатывать инженерные решения для воплощения этих идей в реальность».
Тем не менее, Кларк предположил, что молодому человеку, который считает, что в экономике, построенной на искусственном интеллекте, для него нет места, следует «найти себе хобби» и получить гуманитарное образование.
«Наибольшую пользу от этого получат люди творческие, способные мыслить широко, много читающие, люди с разнообразными интересами», — сказал Кларк. «Проявите любопытство, и это окупится в том, как вы сможете использовать эту технологию».