Новый центр исследует риски искусственного интеллекта


В Великобритании создан новый исследовательский центр для изучения потенциальной угрозы, которую представляет развитие человеческих технологий, включая риски искусственного интеллекта.

Центр по изучению экзистенциального риска Кембриджского университета будет открыт в следующем году. Его основателями являются профессор философии Хью Прайс, Королевский астроном и профессор космологии лорд Мартин Рис и соучредитель Skype Янн Таллинн.

Риски искусственного интеллекта

Новый центр исследует риски искусственного интеллекта

Основатели проекта разделяют обеспокоенность тем, что:

развитие человеческих технологий в скором времени может создать новые риски, угрожающие вымиранию нашего вида в целом. Такие опасности предполагаются в связи с прогрессом в области искусственного интеллекта, развитием биотехнологий и искусственной жизни, нанотехнологий и возможных экстремальных последствий антропогенного изменения климата. Серьезность этих рисков трудно оценить, но это само по себе кажется поводом для беспокойства, учитывая, как много поставлено на карту.

Говоря с Ассошиэйтед Пресс о потенциальной угрозе, исходящей от достижений в области сверхразумных технологий, профессор философии из Кембриджа Хью Прайс объяснил:

В случае с искусственным интеллектом представляется разумным предсказание, что когда-нибудь в этом или следующем столетии интеллект вырвется из-под ограничений биологии,

Когда это произойдет, “мы перестанем быть самыми умными существами вокруг” и рискуем оказаться во власти “машин, которые не являются вредоносными, но машины, чьи интересы не включают нас”.

Признавая, что многие люди считают его опасения надуманными и из области научной фантастики, ссылаясь на HAL в фильме “2001 год: Космическая одиссея“, Прайс настаивает на том, что потенциальные риски серьезны:

Это склонно рассматриваться как взбалмошная забота, но учитывая, что мы не знаем, насколько серьезны риски, что мы не знаем временной шкалы, отбрасывать опасения опасно. Мы пытаемся продвинуть эту тему в уважаемом научном сообществе.

Хотя Прайс сказал, что точный характер рисков трудно предсказать, он отметил, что передовые технологии могут представлять угрозу, когда компьютеры начнут направлять ресурсы на достижение собственных целей в ущерб человеческим интересам, таким как экологическая устойчивость, сравнив этот риск с тем, как люди угрожают выживанию других животных, распространяясь по планете и используя природные ресурсы, от которых зависят другие животные.

Новый многопрофильный исследовательский центр на базе Кембриджского университета будет заниматься изучением и смягчением рисков такого рода с целью обеспечения долгосрочного будущего человеческого вида и того, чтобы мы никогда не оказались в положении, когда услышим, как Хэл или любой другой робот скажет,

Извини, Дэйв. Боюсь, я не могу этого сделать.


Добавить комментарий