Лекции Рейта: ИИ и почему людей следует бояться


Профессор Стюарт Рассел, основатель Центра искусственного интеллекта, совместимого с человеком при Калифорнийском университете в Беркли, в этом году читает лекции Рейта.

Его четыре лекции «Жизнь с искусственным интеллектом» обращаются к экзистенциальной угрозе со стороны машин, более мощных, чем люди, и предлагают путь вперед.

Лекции Рейта проходят в Ньюкасле, Манчестере, Эдинбурге и Лондоне
Лекции Рейта проходят в Ньюкасле, Манчестере, Эдинбурге и Лондоне

В прошлом месяце он поговорил с тогдашним технологическим корреспондентом BBC News Рори Селлан-Джонсом о том, чего ожидать.

Как вы сформировали лекции?

Первые наброски, которые я им отправил, были слишком острыми, слишком сосредоточенными на интеллектуальных корнях ИИ и различных определениях рациональности, а также на том, как они проявляются в истории и тому подобном.

Итак, я переделал – и у нас есть одна лекция, которая знакомит с искусственным интеллектом и будущими перспективами, хорошими и плохими.

А потом мы говорим об оружии и говорим о работе.

И затем, четвертым будет: «Хорошо, вот как мы избежим потери контроля над системами ИИ в будущем».

У вас есть формула, определение, что такое искусственный интеллект?

Да, именно машины воспринимают, действуют и, надеюсь, выбирают действия, которые позволят достичь своих целей.

Все эти другие вещи, о которых вы читаете, например, глубокое обучение и т. Д., Все это лишь частные случаи.

Но может ли посудомоечная машина не подходить под это определение?

Все чаще бытовая техника обладает определенной степенью интеллекта
Все чаще бытовая техника обладает определенной степенью интеллекта

Это континуум.

Термостаты воспринимают и действуют, и, в некотором смысле, у них есть одно маленькое правило, которое гласит: «Если температура ниже этой, включите нагрев.

«Если температура выше этой, выключите огонь».

Итак, это тривиальная программа, и это программа, полностью написанная человеком, поэтому обучение не требовалось.

На другом конце – у вас есть беспилотные автомобили, где принятие решений намного сложнее, где для достижения такого качества принятия решений потребовалось много обучения.

Но жесткой линии нет.

Мы не можем сказать, что что-либо ниже этого не считается ИИ, а все, что выше этого, считается.

И справедливо ли сказать, что, в частности, за последнее десятилетие были достигнуты большие успехи?

Например, в распознавании объектов, что было одной из вещей, которые мы пытались делать с 1960-х годов, по некоторым меркам, мы прошли путь от совершенно жалкого к сверхчеловеческому.

И в машинном переводе мы снова перешли от совершенно жалкого к действительно хорошему.

Итак, какова цель ИИ?

Роботы все чаще используются в школах в качестве учебного пособия - но смогут ли они однажды построить такого же?
Роботы все чаще используются в школах в качестве учебного пособия – но смогут ли они однажды построить такого же?

Если вы посмотрите на то, что основатели этой области сказали, что их целью является ИИ общего назначения, что означает не программу, которая действительно хороша для игры в Го, или программу, которая действительно хороша в машинном переводе, а то, что может делать практически все, что угодно человеку. могли бы сделать и, вероятно, намного больше, потому что машины имеют огромные преимущества в пропускной способности и памяти по сравнению с людьми.

Просто скажи, что нам нужна новая школа.

Появятся роботы.

Роботы-грузовики, строительные роботы, программное обеспечение для управления строительством будут знать, как это построить, знает, как получать разрешения, знает, как разговаривать со школьным округом и директором, чтобы определить правильный дизайн для школы и т. Д. И т. Д. – А через неделю у тебя школа.

И где мы находимся в этом путешествии?

Я бы сказал, что мы прошли честный путь.

Ясно, что еще предстоит сделать несколько серьезных прорывов.

И я думаю, что самая большая проблема связана с принятием сложных решений.

Итак, если вы подумаете о примере строительства школы – как нам начать с цели, которую мы хотим создать, и затем происходят все разговоры, а затем происходит все строительство, как люди это делают?

Что ж, у людей есть способность мыслить на разных уровнях абстракции.

Итак, мы могли бы сказать: «Хорошо, первое, что нам нужно выяснить, это то, где мы собираемся его разместить. И насколько он должен быть большим?»

Мы не начинаем думать о том, следует ли мне сначала двигать левым пальцем или правой ногой, мы сосредотачиваемся на решениях высокого уровня, которые необходимо принять.

Вы нарисовали картину, показывающую, что ИИ добился значительного прогресса – но не такого, как он думает. Но находимся ли мы в крайней опасности?

Я думаю, что да.

Есть два аргумента в пользу того, почему мы должны обращать внимание.

Во-первых, даже несмотря на то, что наши алгоритмы на данный момент далеко не близки к общечеловеческим возможностям, когда у вас работают миллиарды их, они все равно могут иметь очень большое влияние на мир.

Еще одна причина для беспокойства заключается в том, что вполне вероятно – и большинство экспертов думают, что это очень вероятно, – что у нас будет ИИ общего назначения либо в нашей жизни, либо в жизни наших детей.

Я думаю, что если универсальный ИИ будет создан в нынешнем контексте соперничества сверхдержав – вы знаете, тот, кто правит ИИ, правит миром, с таким менталитетом – тогда я думаю, что результаты могут быть наихудшими из возможных.

Ваша вторая лекция о военном использовании ИИ и связанных с этим опасностях. Почему это заслуживает целой лекции?

Военные уже экспериментируют с ИИ и роботами на поле боя
Военные уже экспериментируют с ИИ и роботами на поле боя

Потому что я думаю, что это действительно важно и очень срочно.

И причина, по которой это срочно, заключается в том, что оружие, о котором мы говорили последние шесть или семь лет, сейчас начинает производиться и продаваться.

Так, например, в 2017 году мы сняли фильм под названием Slaughterbots о небольшом квадрокоптере диаметром около 3 дюймов [8 см], который несет заряд взрывчатого вещества и может убивать людей, подойдя к ним достаточно близко, чтобы взорваться.

Мы впервые показали это на дипломатических встречах в Женеве, и я помню, как российский посол в основном насмехался, фыркал и говорил: «Ну, вы знаете, это просто научная фантастика, нам не нужно беспокоиться об этих вещах в течение 25 или 30 лет. “

Я объяснил, что сказали мои коллеги-робототехники, а именно, что нет, они могут собрать подобное оружие за несколько месяцев с несколькими аспирантами.

А в следующем месяце, то есть через три недели, турецкий производитель STM [Savunma Teknolojileri Mühendislik ve Ticaret AŞ] фактически анонсировал дрон Kargu, который по сути является немного увеличенной версией Slaughterbot.

На что вы надеетесь с точки зрения реакции на эти лекции – что люди уйдут напуганными, вдохновленными, полными решимости увидеть путь вперед с этой технологией?

Все вышеперечисленное – я думаю, уместно немного страха, а не страха, когда вы встаете завтра утром и думаете, что мой ноутбук убьет меня или что-то в этом роде, но подумайте о будущем – я бы сказал, что тот же страх, что и мы. иметь о климате или, скорее, мы должны иметь о климате.

Я думаю, некоторые люди просто говорят: «Ну, похоже, сегодня хороший день», и не думают о более длительных временных рамках или более широкой картине.

И я думаю, что немного страха необходимо, потому что это то, что заставляет вас действовать сейчас, а не действовать, когда уже слишком поздно, что, собственно, и было сделано с климатом.

Лекции Reith будут транслироваться на BBC Radio 4, BBC World Service и BBC Sounds.


Добавить комментарий