Новый центр исследует риски искусственного интеллекта

Новый британский исследовательский центр был создан для изучения потенциальной угрозы, которую представляют разработки в области человеческих технологий, включая искусственный интеллект.

В следующем году откроется Центр изучения экзистенциального риска Кембриджского университета, основанный профессором философии Хью Прайсом, королевским астрономом и профессором космологии лордом Мартином Рисом и соучредителем Skype Яном Таллинном.
Основатели проектов обеспокоены тем, что:
Развитие человеческих технологий может вскоре создать новые риски уровня исчезновения для нашего вида в целом. Такие опасности предполагаются в связи с прогрессом в области искусственного интеллекта, развитием биотехнологий и искусственной жизни, нанотехнологиями и возможными экстремальными последствиями антропогенного изменения климата. Серьезность этих рисков трудно оценить, но это само по себе кажется поводом для беспокойства, учитывая, насколько много поставлено на карту.
В беседе с Associated Press о потенциальной угрозе, исходящей от достижений сверхинтеллектуальных технологий, профессор философии Кембриджа Хью Прайс объяснил:
«В случае искусственного интеллекта кажется разумным предсказание, что когда-нибудь в этом или следующем столетии интеллект выйдет из-под ограничений биологии»,
Когда это произойдет, «мы больше не самые умные» и рискуем оказаться во власти «машин, которые не являются злонамеренными, а машин, интересы которых не включают нас».
Признавая, что многие люди считают, что его опасения надуманы и связаны с научной фантастикой, ссылаясь на HAL в фильме «2001: Космическая одиссея», Прайс настаивал на том, что потенциальные риски серьезны:
Это обычно рассматривается как сомнительное беспокойство, но, учитывая, что мы не знаем, насколько серьезны риски, что мы не знаем временных рамок, игнорировать опасения опасно. Что мы пытаемся сделать, так это продвинуть его вперед в уважаемом научном сообществе.
Хотя Прайс сказал, что точную природу рисков трудно предсказать, он сказал, что передовые технологии могут быть угрозой, когда компьютеры начинают направлять ресурсы на свои собственные цели за счет таких человеческих забот, как экологическая устойчивость, сравнивая риск со способом люди угрожают выживанию других животных, распространяясь по планете и используя природные ресурсы, от которых зависят другие животные.
Новый междисциплинарный исследовательский центр в Кембриджском университете должен быть посвящен изучению и снижению рисков такого рода с целью обеспечения долгосрочного будущего человеческого вида и того, что мы никогда не окажемся в таком положении, в котором слышим Хэла. , или любой другой робот, скажем,
«Мне очень жаль, Дэйв. Боюсь, что не смогу ».

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *