Америке и Китаю нужен искусственный интеллект

Американская газета «The News York Times» сообщила о начале переговоров между крупнейшими ИТ - компаниями - Alphabet, Amazon, Facebook, IBM и Microsoft - о выработке единой стратегии развития ИИ (искусственного интеллекта).

Это творческое объединение четырех корпоративных гигантов пока еще не получило названия, и ход переговоров не афишируется, пишет The New York Times. Известно, что ИТ-гиганты будут обсуждать развитие искусственного интеллекта и его влияние на «на сферу труда, транспорта и обороны». Как и Илон Маск с организацией Open AI, компании обеспокоены стремительным прогрессом в сфере ИИ и угрозами, которые этот прогресс может нести.

Что касается намерений Илона Маска, то следует уточнить, что основатели Open AI, в частности Илон Маск и Сэм Альтман, действительно подчеркивают, что их главная цель — способствовать развитию ИИ (artificial intelligence) без вреда для человека. Компания предлагает ученым сформировать штат полиции искусственного интеллекта, которая будет следить за порядком в мире алгоритмов, кодов и нейросетей.

Однако, эксперты не без оснований полагают, что учредители OpenAI также хотят сдержать монополизацию исследований по ИИ, на которую уже претендуют Google и Facebook.

Справка:

Alphabet Inc. — холдинг, располагающийся в Калифорнии (США). Владеет несколькими компаниями, ранее принадлежавшими Google Inc, и самой Google Inc в том числе. Во главе холдинга находятся сооснователи Google Ларри Пейдж и Сергей Брин.

Реорганизация Google в Alphabet была официально объявлена 10 августа 2015 года и завершена 2 октября 2015 года. Все акции Google были преобразованы в акции Alphabet, они продолжают торговаться на Nasdaq как GOOGL и GOOG (класс A — GOOGL, — с правом одного голоса, и класc C — GOOG, — без права голоса.

1 февраля 2016 года Alphabet стал крупнейшей компанией в мире по рыночной капитализации, обойдя компанию Apple. Однако, спустя два дня, стоимость компании снова уступила компании из Купертино. 15 мая Alphabet стал опять крупнейшей компанией в мире по рыночной капитализации.

Таким образом, разработка стратегии исследований по ИИ становится приоритетной для крупнейших мировых корпораций. Безусловно, задача сделать ИИ максимально безопасным для человечества весьма важна, но в данном случае я хотел бы обратить внимание на применение ИИ в оборонной сфере.

Как известно, Пентагон, с которым активно сотрудничает та же Google- Alphabet, придает ключевое значение развитию автономных систем вооружений, которые будут применяться в «войнах будущего».

В последнее время технологии ИИ стали более практичными и доступными, что сделало возможным их применение в автономных системах вооружений. И это сразу же вызвало протесты со стороны экспертов ООН и Международного Красного Креста.

В феврале этого года та же «TheNewsYorkTimes» рассказала о докладе бывшего сотрудника Пентагона Пола Шерри под названием «Автономное оружие и операционный риск».

Пол Шерри руководит программой по разработке приемов ведения «войны будущего» в Центре Новой Американской Безопасности (Вашингтон, округ Колумбия). С 2008 по 2013 годы Шерри работал в Пентагоне над разработкой стратегии применения автономных систем вооружений (АСВ). В 2012 году он стал одним из авторов директивы Министерства обороны, которая устанавливала военную политику по использованию АСВ.

В своем докладе Шерри предупреждает о реальных рисках, связанных с АСВ. Он противопоставляет полностью автоматизированные системы, которые могут убивать без вмешательства человека, оружию, которое «держит людей в курсе» в процессе выбора и поражения цели.

По его мнению, автономным системам вооружений не хватает «гибкости», поэтому во время выполнения боевого задания могут возникнуть ошибки, которых можно избежать при наличии контроля со стороны оператора.

Полностью автономное оружие начинает появляться в армиях различных государств. Южная Корея установила автоматическую турель вдоль границы с Северной Кореей, в Израиле принят на вооружение беспилотник, который запрограммирован атаковать вражеские РЛС противника после их обнаружения.

Армия США пока не использует АСВ. Однако, в этом году Пентагон запросил около одного миллиарда долларов для производства корпорацией Lockheed Martin противокорабельной ракеты дальнего действия (Long Range Anti-Ship Missile), которая описывается как «полуавтономная». Цель выбирает оператор, но затем ракета будет автоматически идентифицировать и атаковать вражеские войска.

Честно говоря, я не считаю такую систему какой-то новинкой, так как даже принятая на вооружение в 1975 году советская крылатая ракета морского базирования ПКР -500 «Базальт», приемными испытаниями которой я занимался в 80-е годы, точно так же сначала наводилась на цель оператором, а затем сама выбирала свою цель.

Справка:

Ракетный комплекс «Базальт» получал первичное целеуказание от орбитальных платформ МКРЦ «Легенда», или от средств воздушной разведки. Получая корректировки от МРСЦ «Успех», ракеты следовали к цели на большой высоте, чтобы сэкономить горючее. Приблизившись к цели на дистанцию захвата ГСН, ракеты самостоятельно выполняли распределение целей и снижались до сверхмалой высоты, скрываясь за радиогоризонтом.

Первый испытательный запуск «Базальта» чуть было не привел к катастрофе. Ракета сразу же стала самонаводиться на собственный стартовый комплекс. Чтобы таких казусов больше не происходило, в систему ИИ ракеты было введено ограничение на размер цели - не крупнее авианосца.

Американцы существенно отстают он нас в противокорабельных ракетных комплексах (долгое время полагались на их количество, а не на качество), и у них все хлопоты с ракетными ИИ еще впереди.

Основное внимание в своем докладе Пол Шерри уделяет сбоям и ошибкам компьютерных систем, а также «непредвиденным взаимодействиям с окружающей средой» (как в случае с первым запуском «Базальта»).

В качестве альтернативы АСВ, Шерри предлагает «Centaur Warfighting» («Кентаврические системы вооружений»). Термин «centaur» (ИИ плюс оператор) применяется для систем, в которых интегрирована работа людей и компьютеров.

Как пишет NYT, в телефонном интервью Шерри все же признал, что просто оператора, «нажимающего на кнопки», недостаточно:

«Наличие просто «оповещенного» о действиях машины человека недостаточно», сказал он. «Они (люди) не могут быть просто частью алгоритма работы системы. Человек должен активно участвовать в принятии решений».

В сущности наметившийся альянс крупнейших ИТ- корпорация в разработке безопасных стратегий развития ИИ является ответом на уже очевидные опасности как гражданского применения ИИ, так и создания АСВ.

В гонку по развитию ИИ-технологий двойного назначения включился Китай, который активно скупает робототехнические компании по всему миру. Совсем недавно китайской фирмой Agic Capital приобретена компания Gimatic, итальянский производитель электрических и пневматических захватов, датчиков и позиционеров. Agic Capital совместно с China National Chemical Corp (ChemChina) и Китайским государственным фондом Guoxin International Investment Corp в январе этого года также выкупили немецкую группу KraussMaffei Group (интегратор промышленных роботов и обработчик пластмассы, углеродного волокна и резины).

Американская компания Paslin, интегратор сварочных роботов, систем автоматизации и оснастки, была приобретена китайской компанией Wanfeng Technology Group.

Китай пока еще довольно далек от уровня ведущих западных исследователей ИИ. Возможно, что китайские инженеры и ученые даже не стремятся к первенству в этих исследованиях, а будут следовать своему извечному принципу - идти «по пятам» передовиков научно-технического производства и копировать лучшие образцы как гражданского, так и военного назначения.

Как бы то ни было, Китай является одним из мировых лидеров в производстве ударных беспилотников. Благодаря покупке вышеперечисленных западных робототехнических компаний, китайские ударные БПЛА будут оснащены самыми современными датчиками, которые помогут им эффективней выбрать и поражать цель. Через некоторое время в прессе могут появиться сообщения о покупке КНР ИТ-компаний, разрабатывающих программное обеспечение для боевых роботов.

Как бы то ни было, две ведущие военные державы, США и Китай, вступили в гонку по развитию самых передовых и опасных систем вооружений, которые предполагают создание армий автономных роботов-убийц. Это станет новой революцией в военном деле, в стороне от которой, будем надеяться, не останутся и российские вооруженные силы.

Автор: Владимир Прохватилов, президент Фонда реальной политики (Realpolitik), эксперт Академии военных наук

Добавляйте CСб в свои источники дзен