Более тысячи ученых конструкторов, инженеров и менеджеров в сфере науки и техники, среди которых физик Стивен Хокинг, глава компании Tesla Элон Маск и один из основателей Apple Стив Возняк, подписали открытое письмо-обращение к мировой общественности с призывом остановить гонку вооружений в области искусственного интеллекта.

В этом письме речь идет о бурно развивающихся в настоящее время исследованиях в области автономных систем вооружений («lethal autonomous weapons»), о которых я недавно писал.

Авторы письма считают, что автономные системы вооружений станут третьим революционным открытием в военном деле после создания пороха и ядерного оружия. Технология искусственного интеллекта, по их мнению, достигла той точки, когда полномасштабное развертывание автономных вооружений станет возможным уже в ближайшие годы, а не десятилетия. Использование наступательных вооружений на основе искусственного интеллекта может привести к большим человеческим потерям и подстегнет новую гонку вооружений:

"Конечная точка траектории этой технологии очевидна: автономные вооружения станут автоматами Калашникова завтрашнего дня. Ключевой вопрос для человечества сегодня состоит в том, начинать ли глобальную гонку вооружений с искусственным интеллектом или предотвратить ее».

Порох изобрели в далекой древности китайцы, используя его для увеселительных фейерверков. Европейские аристократы долгое время презирали огнестрельное оружие, считая его неблагородным и недостойным рыцарских поединков. Но порох победил луки, копья и сабли.

Альберт Эйнштейн, чье письмо Франклину Рузвельту, сподвигло того на Манхеттенский проект, спустя несколько лет вновь написал письмо, уже Гарри Трумену с просьбой не использовать атомную бомбу ввиду огромных жертв среди мирного населения, которые она может причинить. Однако, атомная бомба была сброшена на японские города и гонка ядерных вооружений началась. Кстати, как было доказано совсем недавно, руководитель разработки атомной бомбы в гитлеровском рейхе, великий физик Вернер Гейзенберг сознательно тормозил эти исследования и тем самым предотвратил создание вундер-ваффе, которое могло бы спасти нацистский режим. Опасаясь ядерной монополии США, великие физики Альберт Эйнштейн и Нильс Бор также сознательно передавали ядерные секреты советским ученым.

Как видно, против каждой революции в военном деле неизменно восставали как ученые, так и военные. Но это никогда не приводило к желаемым результатам. Новые системы вооружений и военной техники неизменно пробивали себе дорогу и становились доминирующими в армиях развитых мировых держав.

В США примерно с середины 50-х годов прошлого века начались систематические исследования в области военной революции, называемой также военной реформацией или военной инновацией. Это было вызвано ликвидацией монополии США на ядерной оружие и ядерным паритетом с СССР. Ядерное оружие стало своего рода тупиковой веткой в военной эволюции, и остановило войны между ведущими военными державами, так как победы в ядерном конфликте не могло быть ни у кого по определению. Пришло время локальных, а затем и гибридных (иррегулярных) войн. The Long War – бесконечная война – так называют военные эксперты бесчисленные региональные конфликты, никогда не затухающие в «проблемных» регионах планеты в рамках стратегии управляемого хаоса, разработанной в ведущем мировом центре глобального стратегирования – Институте Сложности Санта-Фе (США).

Ни бесконечная война, ни управляемый хаос не позволяют достичь желаемого для их инициаторов результата, то есть окончательного умиротворения того или иного региона. Чтобы преодолеть эти «сложности», была разработана методика «стратегического блендинга», то есть сочетания высокоточных систем оружия с иррегулярными войнами и подрывной деятельностью внутри страны-мишени. Об этом недавно написал военный эксперт Пентагона Джим Томас в «Armed Forces Journal».

Но настоящей вишенкой на торте являются автономные системы вооружений, которые в сочетании с высокоточным оружием могут просто парализовать оборону противника, будь-то пассионарные инсургенты-партизаны, вроде боевиков ИГИЛ или Талибана, или современная армия мощной военной державы, такой как Россия или Китай.

Безусловно, в качестве основных целей, против которых могут быть задействованы автономные системы вооружений, то есть управляемые коллективным разумом армады боевых роботов-убийц и микродронов – это Российская Федерация и КНР. Причем это может быть сделано в рамках прокси-войны, то есть войны по доверенности. Театром военных действий для отработки тактики применения таких вооружений могут стать как Донбасс, или приграничные с Украиной районы России, так и спорные острова в прибрежных районах Китая.

Новая гонка вооружений практически неизбежна. В первую очередь потому, что она не будет затратной. Для индустриально развитых держав, конечно.

«На выставке Sea-Air-Space Expo были показаны CICADA (Close-In Autonomous Disposable Aircraft) - крошечные одноразовые самолетики, управляемые дистанционно, то есть дроны. Рой таких дронов, которые крайне дешевы в производстве и проектировании, может наводнить территорию врага и сделать его беззащитным, парализовав системы ПВО».

Такие дроны стоят сущие копейки, то бишь центы, а эффект их применения может быть решающим для стопроцентной зачистки той ли иной «целевой» местности. После того, как управляемый коллективным разумом рой дронов уничтожит даже малейшие очаги сопротивления, на освобожденную от партизан территорию может спокойно ступить нога морского пехотинца США. Пока одноразовые самолетики создаются скорее всего для подавления вражеской ПВО, но мысль военных стратегов, как говорится, не дремлет.

Возвращаясь к обращению ученых-пацифистов, хотел бы отметить, что они неправы в главном. Использование автономных систем вооружений приведет не просто к огромным жертвам. Оно чревато непредсказуемыми последствиями, в том числе и для тех, кто его использует. Кто знает, не сочтет ли в какой-то момент коллективный разум роботов-убийц, что человечество – это тупиковый вариант эволюции, и пришла пора заменить его высоким разумом искусственного интеллекта. Это будет началом эволюции «мертвого разума», в рамках которой человек окажется лишним и несовершенным механизмом, который не выдержал конкуренции со своими собственными созданиями.

Автор: Владимир Прохватилов, Президент Фонда реальной политики (Realpolitik), эксперт Академии военных наук

Ученые выступили против роботов-убийц

Эволюция «мертвого разума» может уничтожить человечество

Картина дня

Наши публикации