Программисты Против Скотобоев

Автономное оружие поначалу может показаться хорошей идеей, зачем посылать солдат на смерть, но потенциал неправильного использования очевиден. Возможно, вы не подумали о таком, как бот — убийца-вам нужно это увидеть.

Просто посмотрите видео, сделанное группой под названием Stop Autonomous Weapons в рамках кампании по запрету полностью автономных систем оружия:

Если вы знаете технологию, то вы поймете, что все это очень разумно и совсем не научная фантастика, даже если это действительно похоже на эпизод «Черного зеркала». Что, возможно, более пугает, чем осознание того, что такой сценарий возможен, так это сложность разработки контрмер. Эти боты не летают по проводам, как современные дроны, они являются автономными машинами искусственного интеллекта. Вы можете начать придумывать защиту от одного дрона — скажем, сетки из проволочной сетки, — но эти дроны могут работать как рой. У каждого из них может быть только небольшое количество взрывчатки, но, работая вместе, они могут проделать дыру в любой защите, которую вы захотите поставить.

Даже если вы построите бетонный бункер толщиной 6 метров, вероятно, найдется какой — то способ, о котором вы не подумали, — и воздушные дроны-это всего лишь один из вариантов, роботы-змеи хорошо умеют извиваться, хотя небольшие зазоры и трубы. Я могу придумать некоторые способы защиты, но ни один из них не является особенно легким, и все они начинают войну технологической эскалации.

Кампания за то, чтобы Остановить Роботов-убийц, Запретить Смертоносное автономное оружие и Институт будущего жизни, который поддерживает и то, и другое, придерживаются мнения, что мы должны заставить правительства запретить этот вид оружия. Они просят вашей поддержки, добавив ваше имя в список публичных противников разработки такого оружия. Они также хотят, чтобы вы написали своему избранному представителю. И то и другое-хорошая идея, но правительственный запрет, глобальный закон или конвенция не остановят плохих парней от создания такого дешевого и эффективного оружия.

Технология не может быть не изобретена.

Возможно, нам нужно разработать контрмеры, которые были бы столь же дешевыми и даже более эффективными.