Max Home IndustryДемис Хассабис, соучредитель Google Deepmind, одной из крупнейших британских компаний в области ИИ, говорит, что быстро развивающаяся отрасль не должна следовать за тот же путь выбрали старые технологические гиганты.
«Двигайся быстро и ломай вещи» — девиз, придуманный мета-боссом Марком Цукербергом, создателем Facebook.
Целью проекта было стимулирование быстрых инноваций и роста компании.
Но для некоторых это стало фразой, которая символизирует опрометчивые действия крупных технологических компаний, вызывающие сбои.
«Я не думаю, что нам следует действовать быстро и ломать вещи, знаете, это типичная мантра Кремниевой долины. Она оказалась чрезвычайно успешной в создании крупных компаний и предоставлении нам множества отличных услуг и приложений. …но ИИ слишком важен», — сказал Хассабис.
«Необходимо проделать большую работу, чтобы убедиться, что мы понимаем [системы искусственного интеллекта] и знаем, как их развертывать безопасным и ответственным способом».
Описание рисков, связанных с ИИ
Британский технологический лидер беседовал с BBC накануне британского саммита по безопасности ИИ.
Он считал, что угрозы, исходящие от искусственного интеллекта, можно разделить на три категории:
- риск того, что ИИ будет генерировать дезинформацию и дипфейки, а также проявлять предвзятость
- преднамеренное злоупотребление технологией злоумышленниками
- технические риски того, что будущее поколение общего искусственного интеллекта станет более мощным; как держать ситуацию под контролем и следить за тем, чтобы она соответствовала правильным целям
«Все они требуют разных решений в разных временных масштабах, но мы должны начать работу над ними всеми сейчас», — сказал он.
DeepMind создает программу искусственного интеллекта под названием AlphaFold, которая потенциально может способствовать открытию новых лекарств, предсказывая структуру почти каждого белка в человеческом организме.
Более ранний продукт под названием AlphaGo победил лучшего игрока китайской стратегической игры Го в турнире, состоявшемся в 2016 году.
Позже игрок ушел из игры, заявив, что «есть существо, которое невозможно победить».
Саммит по безопасности
Руководители технологических компаний настаивают на том, чтобы правительства регулировали быстро развивающиеся технологии.
В течение следующих двух дней около 100 мировых лидеров, технологических боссов, ученых и исследователей искусственного интеллекта соберутся в британском кампусе Блетчли-Парк, где когда-то жили взломщики кодов, которые помогли обеспечить победу во Второй мировой войне.
Они примут участие в дискуссиях о том, как лучше всего максимизировать преимущества искусственного интеллекта, например, открывать новые лекарства и работать над потенциальными решениями проблемы изменения климата, минимизируя при этом риски.
Саммит будет посвящен чрезвычайным угрозам, исходящим от передового искусственного интеллекта, самой передовой технологии, которую Хассабис назвал «наконечником копья». Приоритеты саммита включают угрозу биотерроризма и кибератак.
Среди международных делегатов — вице-президент США Камала Харрис и президент Европейской комиссии Урсула фон дер Ляйен. Китай также отправляет своего представителя.
Высказывалась некоторая критика в отношении того, что в списке гостей доминируют американские гиганты, в том числе создатель ChatGPT OpenAI, Anthropic, Microsoft, Google и Amazon, а также владелец Tesla и X (ранее Twitter) Илон Маск. Премьер-министр Риши Сунак проведет прямую трансляцию разговора с Маском на канале X в четверг вечером.
Другие задаются вопросом, не затмили ли сделанные ранее на этой неделе заявления США и G7, в частности, о безопасности ИИ, это событие, но Хассабис сказал, что Великобритания все еще может сыграть «важную роль» в формировании дискуссий.
«Что-то вроде научной фантастики»
» class=»wp-image-29832″/>Эйдан Гомес, основатель Cohere, приехал в Великобританию из Торонто на саммит. В мае 2023 года его фирма была оценена в 2 миллиарда долларов.
Он сказал, что, по его мнению, существуют более непосредственные угрозы, чем «сценарий Судного дня с Терминатором», который он назвал «своего рода научной фантастикой».
«По моему личному мнению, я бы хотел, чтобы мы сосредоточили больше внимания на краткосрочной перспективе, где предстоит проделать конкретную политическую работу», — сказал он.
«Технология не готова, например, выписывать лекарства пациентам, ошибка в которых может стоить человеческой жизни.
«Нам действительно необходимо сохранить человеческое присутствие и контроль за эти системы… нам нужно регулирование, которое поможет нам управлять и направлять приемлемое использование этой технологии».
Подпишитесь на наш утренний информационный бюллетень и получайте новости BBC на свой почтовый ящик.