Бывший генеральный директор Google обеспокоен тем, что искусственный интеллект может быть использован террористами или «государствами-изгоями», чтобы «навредить невинным людям».
Эрик Шмидт сказал BBC: «Настоящие страхи, которые у меня есть, — это не те, о которых большинство людей говорят об ИИ, — я говорю о чрезвычайном риске».
Технический миллиардер, занимавший руководящие должности в Google с 2001 по 2017 год, сказал программе Today, что «Северная Корея, или Иран, или даже россия» могут принять и использовать технологию для создания биологического оружия.
Он призвал к государственному надзору за частными технологическими компаниями, которые разрабатывают модели ИИ, но предупредил, что чрезмерное регулирование может подавить инновации.
Шмидт согласился с контролем экспорта США мощных микрочипов, которые питают самые передовые системы ИИ.
До того, как покинуть свой пост, бывший президент США Джо Байден ограничил экспорт микрочипов во все страны, кроме 18, чтобы замедлить прогресс противников в исследованиях ИИ.
Решение все еще может быть отменено Дональдом Трампом.
«Подумайте о Северной Корее, или Иране, или даже россии, у которых есть какие-то злые цели», — сказал Шмидт.
«Эта технология достаточно быстра для того, чтобы они могли принять ее, чтобы они могли злоупотребить ею и нанести реальный вред», — сказал он ведущему Today Амолу Раджану.
Он добавил, что системы ИИ, попав в плохие руки, могут быть использованы для разработки оружия для создания «плохой биологической атаки со стороны какого-то злого человека».
«Меня всегда беспокоит сценарий «Усамы бен Ладена», когда есть действительно злой человек, который берет под контроль какой-то аспект нашей современной жизни и использует его, чтобы навредить невинным людям», — сказал он.
Бен Ладен организовал атаки 11 сентября 2001 года, когда террористы «Аль-Каиды» захватили управление самолетами, чтобы убить тысячи людей на американской земле.
Шмидт предложил баланс между государственным надзором за разработкой ИИ и чрезмерным регулированием сектора.
«Правда в том, что ИИ и будущее в значительной степени будут создавать частные компании», — сказал Шмидт.
«Очень важно, чтобы правительства понимали, что мы делаем, и следили за нами».
Он добавил: «Мы не утверждаем, что должны в одностороннем порядке иметь возможность делать эти вещи без надзора, мы считаем, что это должно регулироваться».
Он говорил из Парижа, где Саммит действий по ИИ завершился отказом США и Великобритании подписать соглашение.
Вице-президент США Дж. Д. Вэнс сказал, что регулирование «убьет преобразующую отрасль на старте».
Шмидт сказал, что результатом слишком сильного регулирования в Европе «является то, что революция ИИ, которая, по моему мнению, является самой важной революцией после электричества, не будет изобретена в Европе».
Он также сказал, что крупные технологические компании «не понимали 15 лет назад» потенциала ИИ, но понимают сейчас.
«Мой опыт общения с лидерами технологий показывает, что они понимают, какое влияние они оказывают, но их оценочные суждения могут отличаться от суждений правительства», — сказал он.
Запрет на использование смартфонов детьми
Шмидт был главой Google, когда компания купила Android, компанию, которая сейчас производит самую используемую операционную систему для мобильных телефонов в мире.
Теперь он поддерживает инициативы по недопущению использования телефонов в школах.
«Я один из тех, кто не понял, и я возьму на себя ответственность за то, что мир не работает идеально так, как мы, технические специалисты, думаем», — сказал он.
«Ситуация с детьми меня особенно беспокоит».
«Я думаю, что смартфоны с ребенком могут быть безопасными», — сказал он, «их просто нужно модерировать… мы все можем согласиться, что детей следует защищать от зла онлайн-мира».
В социальных сетях, где он поддержал предложения о запрете для детей младше 16 лет, он добавил: «Зачем нам проводить такой большой, неконтролируемый эксперимент на самых важных людях в мире, которыми является следующее поколение?»
Сторонники ограничения использования смартфонов детьми утверждают, что телефоны вызывают привыкание и «отвлекают детей от занятий, которые необходимы для здорового развития».
Парламент Австралии принял закон о запрете использования социальных сетей для лиц младше 16 лет в 2024 году, а премьер-министр Энтони Альбанезе заявил, что важно защитить детей от их «вреда».
Недавнее исследование, опубликованное в медицинском журнале The Lancet, показало, что запрет на использование мобильных телефонов в школах не улучшил поведение или оценки учащихся.
Но оно обнаружило, что более длительные траты на смартфоны и социальные сети в целом были связаны с худшими результатами всех этих мер.