//Новости giraff.io

//Партнер Гнездо.ру

Загрузить еще
Загружено

Суть Событий

Ученые выступили против роботов-убийц

Эволюция «мертвого разума» может уничтожить человечество

31 июля 2015, 16:58 [«», Владимир Прохватилов ]

Ученые выступили против роботов-убийц

Более тысячи ученых конструкторов, инженеров и менеджеров в сфере науки и техники, среди которых  физик  Стивен Хокинг, глава компании Tesla Элон Маск и один из основателей Apple Стив Возняк, подписали открытое письмо-обращение к мировой общественности  с призывом остановить гонку вооружений  в области  искусственного интеллекта.

В этом письме речь идет о бурно развивающихся в настоящее время исследованиях в области автономных систем вооружений («lethal autonomous weapons»), о которых я недавно писал.

Авторы письма считают, что автономные  системы  вооружений станут третьим революционным открытием в военном деле после создания пороха и ядерного оружия. Технология искусственного интеллекта, по их мнению,  достигла той точки, когда полномасштабное развертывание автономных вооружений станет  возможным уже в ближайшие годы, а не десятилетия. Использование наступательных вооружений на основе искусственного интеллекта может привести к большим человеческим потерям и подстегнет новую гонку вооружений:

"Конечная точка траектории этой технологии очевидна: автономные вооружения станут автоматами Калашникова завтрашнего дня. Ключевой вопрос для человечества сегодня состоит в том, начинать ли глобальную гонку вооружений с искусственным интеллектом или предотвратить ее».

Порох изобрели в далекой древности китайцы, используя его для увеселительных фейерверков. Европейские аристократы долгое время презирали огнестрельное оружие, считая его неблагородным и недостойным  рыцарских поединков. Но порох победил  луки, копья и сабли.

Альберт Эйнштейн, чье письмо Франклину Рузвельту, сподвигло того на Манхеттенский проект, спустя несколько лет вновь написал письмо, уже Гарри Трумену с просьбой не использовать атомную бомбу ввиду огромных жертв среди мирного населения, которые  она может причинить. Однако, атомная бомба была сброшена на японские города и гонка ядерных вооружений началась. Кстати, как было доказано совсем недавно, руководитель разработки атомной бомбы в гитлеровском рейхе, великий физик Вернер Гейзенберг сознательно тормозил эти исследования и тем самым предотвратил создание вундер-ваффе, которое могло бы спасти нацистский режим. Опасаясь ядерной монополии США, великие физики Альберт Эйнштейн и Нильс Бор также сознательно передавали ядерные секреты советским ученым.

Как видно, против каждой революции в военном деле неизменно восставали как ученые, так и военные. Но это никогда не приводило к желаемым  результатам. Новые системы вооружений и военной техники неизменно пробивали себе дорогу и становились доминирующими в армиях развитых мировых держав.

В США примерно с середины 50-х годов прошлого века начались систематические исследования в области военной революции, называемой также военной реформацией или военной инновацией. Это было вызвано ликвидацией монополии США на ядерной оружие и ядерным паритетом с СССР. Ядерное оружие стало своего рода тупиковой веткой в военной эволюции, и остановило войны между ведущими военными державами, так как победы в ядерном конфликте не могло быть ни у кого по определению. Пришло время локальных, а затем и гибридных (иррегулярных) войн. The Long War – бесконечная война – так называют военные эксперты бесчисленные региональные конфликты, никогда не затухающие в «проблемных» регионах планеты в рамках стратегии управляемого хаоса, разработанной в ведущем мировом центре глобального стратегирования – Институте Сложности Санта-Фе (США).

Ни бесконечная война, ни управляемый хаос не позволяют достичь желаемого для их инициаторов результата, то есть окончательного умиротворения того или иного региона. Чтобы преодолеть эти «сложности», была разработана методика «стратегического блендинга», то есть сочетания высокоточных систем оружия с иррегулярными войнами и подрывной деятельностью внутри страны-мишени. Об этом недавно написал военный эксперт Пентагона Джим Томас в «Armed Forces Journal».  

Но настоящей вишенкой на торте являются автономные системы вооружений, которые в сочетании с высокоточным оружием могут просто парализовать оборону противника, будь-то пассионарные инсургенты-партизаны, вроде боевиков ИГИЛ или Талибана, или современная армия мощной военной державы, такой как Россия или Китай.

Безусловно, в качестве основных целей, против которых могут быть задействованы  автономные системы вооружений, то есть управляемые коллективным разумом  армады боевых роботов-убийц  и  микродронов – это Российская Федерация и КНР. Причем это может быть сделано в рамках прокси-войны, то есть войны по доверенности. Театром военных действий для отработки тактики применения таких вооружений могут стать как Донбасс, или приграничные с Украиной районы России, так и  спорные острова в прибрежных районах Китая.

Новая гонка вооружений практически неизбежна.  В первую очередь потому, что  она не будет затратной. Для индустриально развитых держав, конечно. 

«На выставке Sea-Air-Space Expo были показаны  CICADA (Close-In Autonomous Disposable Aircraft)  - крошечные одноразовые самолетики, управляемые дистанционно, то есть дроны. Рой таких дронов, которые крайне дешевы в производстве и проектировании, может наводнить территорию врага и сделать его беззащитным, парализовав системы ПВО».

Такие дроны  стоят сущие копейки, то бишь центы, а эффект их применения может быть решающим для стопроцентной зачистки той ли иной «целевой» местности. После того, как управляемый коллективным разумом рой дронов уничтожит даже малейшие очаги сопротивления, на  освобожденную от партизан территорию может спокойно ступить нога морского пехотинца США. Пока одноразовые самолетики создаются скорее всего для подавления вражеской  ПВО, но мысль военных стратегов, как говорится, не дремлет.

Возвращаясь к обращению ученых-пацифистов, хотел бы отметить, что они неправы в главном. Использование автономных систем вооружений приведет не просто к огромным жертвам. Оно чревато непредсказуемыми последствиями, в  том числе и для тех, кто его  использует. Кто знает, не сочтет ли в какой-то момент коллективный разум роботов-убийц, что человечество – это тупиковый вариант эволюции, и пришла пора заменить  его высоким разумом искусственного интеллекта. Это будет началом эволюции «мертвого разума», в рамках которой человек окажется лишним и несовершенным механизмом, который не выдержал конкуренции со своими собственными созданиями.

Автор: Владимир Прохватилов, Президент Фонда реальной политики (Realpolitik), эксперт  Академии военных наук

Больше новостей и ближе к сути? Заходите на ленту в Телеграм!

Добавляйте CСб в свои источники ЯНДЕКС.НОВОСТИ.


//Партнер Гнездо.ру


Картина дня

Новости с фронтов борьбы с коррупцией: арест вице-губернатора, задержание мэра, приговор трем генералам

Новости с фронтов борьбы с коррупцией: арест вице-губернатора, задержание мэра, приговор трем генералам

Суд в Москве арестовал до 25 октября врио замгубернатора Курской области Владимира Базарова. Также сегодня был задержан мэр города Владимира Дмитрий Наумов - его подозревают в мошенничестве в особо крупном размере. Трем генералам МВД Сергею Умнову, Алексею Семенову и Ивану Абакумову вынесли приговоры.

Володин: Госдума обсудит защиту россиян от ИИ

Володин: Госдума обсудит защиту россиян от ИИ

Председатель Государственной Думы Вячеслав Володин сообщил, что депутаты планируют в ноябре обсудить вопрос внедрения технологий искусственного интеллекта (ИИ) и цифровизации. Отдельное внимание при этом будет уделено «защите граждан от негативных последствий использования нейросетей».

Лукашенко заявил картофелеводам, что не хотелось бы управлять страной по-диктаторски, «но пока не получается»

Лукашенко заявил картофелеводам, что не хотелось бы управлять страной по-диктаторски, «но пока не получается»

Белорусский лидер Александр Лукашенко заявил, что не хотел бы управлять страной по-диктаторски. Однако, по его словам, «по-другому пока не получается». Об этом он сказал в ходе совещания по вопросам развития картофелеводства, которое он провел во время рабочей поездки в Могилевскую область.

Минпросвещения и Дума рекомендовали петь в школах и детсадах песни Шамана и Газманова

Минпросвещения и Дума рекомендовали петь в школах и детсадах песни Шамана и Газманова

Минпросвещения утвердило список патриотических композиций, которые рекомендованы для изучения в школах. В него в числе про чих вошли песни Shaman, Олега Газманова, Дениса Майданова и Трофима.Всего в список были включены 37 композиций, «направленных на патриотическое и духовно-нравственное воспитание обучающихся»

Бывшего директора Театра сатиры задержали по делу о мошенничестве

Бывшего директора Театра сатиры задержали по делу о мошенничестве

МВД сообщило о задержании бывшего директора одного из ведущих театров Москвы по подозрению в мошенничестве. По данным ведомства, он заключал фиктивные договоры с театром, который возглавлял, и получал по ним выплаты. На счета задержанного и его близких родственников наложен арест.

На Александра Цекало подала в суд его бывшая супруга Виктория Галушка

На Александра Цекало подала в суд его бывшая супруга Виктория Галушка

На Александра Цекало подала в суд его бывшая супруга Виктория Галушка. Женщина утверждает, что не получает алименты на их общих детей. В браке с сестрой Веры Брежневой (Вера Галушка) у шоумена родились дочь и сын. Пара развелась несколько лет назад, прожив в браке около десяти лет.

Прилучный и Брутян о свадьбе Муцениеце: "Красивая дата, счастья молодым!"

Прилучный и Брутян о свадьбе Муцениеце: "Красивая дата, счастья молодым!"

Несколько дней назад Агата Муцениеце и Петр Дранга сыграли свадьбу. Торжество состоялось 25 августа – примечательно, что в этот же день бывший муж актрисы Павел Прилучный женился на Зепюр Брутян. Несмотря на судебную тяжбу, звездная чета поздравила молодоженов.


//Новости giraff.io

Наши публикации

Гендиректор РКК "Энергия" заявил, что предприятие на грани разорения и вытащить его – "задача из области чуда"

Гендиректор РКК "Энергия" заявил, что предприятие на грани разорения и вытащить его – "задача из области чуда"

Генеральный директор Ракетно-космической корпорации «Энергия» предупредил сотрудников, что компания оказалась в крайне тяжелом положении и неспособна нормально функционировать. «Вытащить компанию – задача из области чуда: мы должны сделать все, что возможно, а все, что невозможно, сделает за нас Бог!».

"Ъ": полномочия Бастрыкина на посту председателя СКР продлены, полпредом в этом году он не станет

"Ъ": полномочия Бастрыкина на посту председателя СКР продлены, полпредом в этом году он не станет

И снова "инсайдеры" не угадали. Александр Бастрыкин останется на посту председателя СК еще по меньшей мере на год. Ранее его называли основным кандидатом на пост главы Верховного суда, а позже появилась информация, что он станет полпредом в Северо-Западном округе. Но не в этот раз!

После резонансной трагедии на Пике коммунизма в Думе предложили запретить восхождения без гидов

После резонансной трагедии на Пике коммунизма в Думе предложили запретить восхождения без гидов

В Госдуме предложили запретить восхождения на высоты более 4-5 тыс. метров без опытных гидов. С такой инициативой выступил заместитель председателя думского комитета по туризму Сергей Кривоносов («Единая Россия»). По его мнению, это не должно ограничить права граждан, но повысит их безопасность.

Правительство предложит россиянам добровольно ограничивать себе доступ к опасному контенту в интернете

Правительство предложит россиянам добровольно ограничивать себе доступ к опасному контенту в интернете

Правительство предлагает предусмотреть для россиян возможность добровольного самоограничения доступа к «потенциально опасному контенту». Проработать такой механизм должны будут Минцифры, Минкультуры, Роскомнадзор, Росмолодежь и другие ведомства.

ЦБ перечислил признаки мошеннических операций при снятии наличных в банкоматах

ЦБ перечислил признаки мошеннических операций при снятии наличных в банкоматах

С 1 сентября банки должны будут проверять подозрительные операции при снятии наличных в банкоматах для выявления случаев мошенничества. Банк России назвал признаки, на которые банки должны будут обращать внимание. В случае обнаружения таких признаков выдача наличных будет ограничена.

Чемезов заявил, что в производстве самолетов российские производители движутся гораздо быстрее западных

Чемезов заявил, что в производстве самолетов российские производители движутся гораздо быстрее западных

Генеральный директор госкорпорации «Ростех» Сергей Чемезов заявил, что Россия близка к финишу в вопросе производства отечественных самолетов МС-21, SJ-100 и Ил-114. По его словам, в этом направлении российские производители движутся гораздо быстрее западных конкурентов.

Слухи, скандалы, сплетни

В Южной Корее исполнителя Gangnam Style проверяют по делу о запрещенных веществах

В Южной Корее исполнителя Gangnam Style проверяют по делу о запрещенных веществах

В Южной Корее ведется расследование в отношении певца Psy (Пак Чэ Сан), который прославился благодаря хиту Gangnam Style. Дело связано с запрещенными веществами – следствие считает, что исполнитель незаконно получал рецептурные препараты. Сам он отрицает все обвинения.

На Александра Цекало подала в суд его бывшая супруга Виктория Галушка

На Александра Цекало подала в суд его бывшая супруга Виктория Галушка

На Александра Цекало подала в суд его бывшая супруга Виктория Галушка. Женщина утверждает, что не получает алименты на их общих детей. В браке с сестрой Веры Брежневой (Вера Галушка) у шоумена родились дочь и сын. Пара развелась несколько лет назад, прожив в браке около десяти лет.

Прилучный и Брутян о свадьбе Муцениеце: "Красивая дата, счастья молодым!"

Прилучный и Брутян о свадьбе Муцениеце: "Красивая дата, счастья молодым!"

Несколько дней назад Агата Муцениеце и Петр Дранга сыграли свадьбу. Торжество состоялось 25 августа – примечательно, что в этот же день бывший муж актрисы Павел Прилучный женился на Зепюр Брутян. Несмотря на судебную тяжбу, звездная чета поздравила молодоженов.

Hola!: Анна Курникова ждет четвертого ребенка

Hola!: Анна Курникова ждет четвертого ребенка

Российская теннисистка Анна Курникова готовится снова стать матерью. Спортсменка состоит в отношениях с испанским певцом Энрике Иглесиасом, пара воспитывает троих детей. А недавно стало известно, что теннисистка ждет четвертого ребенка. Малыш должен появиться на свет в конце этого года.

Шоубиз

Ксения Бородина вышла замуж за Николая Сердюкова

Ксения Бородина вышла замуж за Николая Сердюкова

В декабре прошлого года Ксения Бородина получила предложение руки и сердца от своего избранника Николая Сердюкова. Пара не стала тянуть с оформлением отношений – как стало известно, они уже расписались. Церемония прошла в узком кругу. Устроить торжество пара планирует через несколько недель.

Виктория Боня о своем восхождении на Эверест: "Удивило молчание коллег по шоу-бизнесу"

Виктория Боня о своем восхождении на Эверест: "Удивило молчание коллег по шоу-бизнесу"

Виктория Боня несколько дней назад осуществила свою мечту — ей удалось взойти на Эверест. Она делилась, с какими трудностями и опасностями пришлось столкнуться на пути к вершине. Однако её поступок оказался практически незамеченным другими представителями шоу-бизнеса, что неприятно удивило телезвезду.

Наука

SpaceX успешно запустила Starship после нескольких неудачных пусков

SpaceX успешно запустила Starship после нескольких неудачных пусков

SpaceX провела успешный запуск ракеты-носитель с прототипом космического корабля Starship. Это десятый испытательный полет. Предыдущие три закончились неудачей. Спустя семь минут после запуска ракета-носитель отделилась от корабля, а аппарат достиг высоты 200 км. Полет продолжался около часа.

Роскосмос сообщил об устранении утечки воздуха на модуле "Звезда" МКС, о которой известно с 2019 года

Роскосмос сообщил об устранении утечки воздуха на модуле "Звезда" МКС, о которой известно с 2019 года

Роскосмос сообщил об устранении утечки воздуха на модуле «Звезда» Международной космической станции. Попытки устранить ее предпринимались на протяжении пяти лет – с момента обнаружения в 2019 году, но ранее все действия приводили только к временному результату.

«Яндекс» планирует заняться созданием человекоподобных роботов

«Яндекс» планирует заняться созданием человекоподобных роботов

«Яндекс» намерен заняться созданием человекоподобных роботов. На первом этапе компания займется разработкой софта, а впоследствии рассчитывает перейти и к их производству. Компания собирается использовать роботов для выгула собак, ухода за пожилыми людьми, для обхода промышленных объектов.

Корабль Blue Origin с Кэтти Перри и невестой Безоса совершил полет в космос

Корабль Blue Origin с Кэтти Перри и невестой Безоса совершил полет в космос

Компания Blue Origin успешно осуществила туристический суборбитальный полет с полностью женским экипажем. На борту находились в том числе невеста главы компании Джеффа Безоса – журналистка Лорен Санчес и певица Кэти Перри. Это первый полет без мужчин с момента космической миссии Валентины Терешковой в 1963 году.

Хайтек

В сеть утекли 16 млрд паролей от аккаунтов Apple, Google и других сервисов

В сеть утекли 16 млрд паролей от аккаунтов Apple, Google и других сервисов

Специалисты зафиксировали беспрецедентную утечку данных, которую уже называют крупнейшей в истории. В сеть попали почти 16 млрд логинов и паролей от аккаунтов в популярных сервисах, социальных сетях и на государственных ресурсах. В их числе - Apple и Google.

Разработчики ПО для российской ОС «Аврора» подали заявление о банкротстве

Разработчики ПО для российской ОС «Аврора» подали заявление о банкротстве

Разработчик приложений для российской операционной системы «Аврора» - ООО «Авроид», а также IT-компания ООО «Гиперус» подали заявления о банкротстве. Информация об этом появилась в картотеке Арбитражных судов. Совокупный долг обеих компаний превысил два миллиарда рублей.

В ФСБ рекомендовали откаться от использования российского браузера "Спутник"

В ФСБ рекомендовали откаться от использования российского браузера "Спутник"

В Национальном координационном центре по компьютерным инцидентам (НКЦКИ, структура ФСБ) рекомендовали отказаться от использования российского браузера "Спутник". Там допускают, что это может быть небезопасно, поскольку создавшая его компания обанкротилась, а доменное имя выкуплено компанией из США.

Ъ: В российских кнопочных телефонах обнаружили уязвимость, которая позволяет управлять телефоном посторонним

Ъ: В российских кнопочных телефонах обнаружили уязвимость, которая позволяет управлять телефоном посторонним

В кнопочных телефонах, произведенных российским брендом, была обнаружена встроенная уязвимость. С помощью этого программного обеспечения можно управлять устройством удаленно через интернет - рассылать спам и даже получать доступ к приложениям и сервисам пользователя, в том числе банковские.

Туризм

В Европе готовятся запустить новую систему пограничного контроля - контроль за пребыванием ужесточится

В Европе готовятся запустить новую систему пограничного контроля - контроль за пребыванием ужесточится

Страны Евросоюза готовятся запустить новую систему пограничного контроля - Систему въезда/выезда (Entry/Exit System, EES). Ее внедрение начнется 12 октября 2025 года и полностью завершится 9 апреля 2026 года. Ожидается, что контроль за пребыванием в ЕС граждан ряда стран, в том числе россиян, ужесточится.

Песков: В Кремле не видят новизны в заявлениях Трампа

Песков: В Кремле не видят новизны в заявлениях Трампа

Пресс-секретарь президента России Дмитрий Песков заявил, что в Кремле внимательно наблюдают за риторикой президента США Дональда Трампа и не видят в них новизны. По его словам, Москва остается готовой к диалогу, но равноправному и взаимоуважительному.

За поездки за рубеж предложили ввести сбор

За поездки за рубеж предложили ввести сбор

Для россиян, покупающих заграничные туры, предложили ввести сбор. С такой инициативой президент Российского союза туриндустрии Илья Уманский. Согласно его идее, собранные деньги можно было бы направить на оказание помощи туристам в экстренных ситуациях.

Болгария внесла изменения в список документов на получение визы

Болгария внесла изменения в список документов на получение визы

Болгария внесла изменения в список документов на получение визы. Теперь чтобы получить болгарский Шенген, который до сих пор большая экзотика, помимо прочих документов может потребоваться трудовая книжка или выписка о наличии недвижимости либо справка с указанием дохода за последние полгода.

Спорт

Станислав Черчесов стал главным тренером грозненского «Ахмата»

Станислав Черчесов стал главным тренером грозненского «Ахмата»

Бывший главный тренер сборной России по футболу Станислав Черчесов назначен на должность главного тренера грозненского футбольного клуба «Ахмат». Об этом сообщила пресс-служба клуба. Накануне «Ахмат» объявил о прекращении сотрудничества с главным тренером Александром Сторожуком.

Дегтяреву неловко называться президентом и он просит себя переименовать

Дегтяреву неловко называться президентом и он просит себя переименовать

Глава Минспорта Михаил Дегтярев предложил переименовать должность президента Олимпийского комитета России. По его словам, он намерен поднять этот вопрос на ближайшем Олимпийском собрании. Свою инициативу он объяснил тем, что «президент у нас один».

Двукратная олимпийская чемпионка по биатлону Лаура Дальмайер погибла в горах Пакистана

Двукратная олимпийская чемпионка по биатлону Лаура Дальмайер погибла в горах Пакистана

Двукратная олимпийская чемпионка по биатлону Лаура Дальмайер погибла в горах Пакистана. Она попала под камнепад во время восхождения на пик Лайла. После двухдневных поисков спасатели обнаружили ее тело. Это подтвердили ее предстиавители. Спортсменке был 31 год.

«Оренбург» сыграет вместо исключенного «Торпедо» в новом сезоне РПЛ

«Оренбург» сыграет вместо исключенного «Торпедо» в новом сезоне РПЛ

Футбольный клуб «Оренбург» сыграет в предстоящем чемпионате Российской премьер-лиги (РПЛ) вместо «Торпедо», которое накануне было исключено из состава участников «за попытку организации договорных матчей» с помощью подкупа арбитров. «Торпедо» же сыграет во втором по силе дивизионе чемпионата.

МВД назвало размер взятки арбитру за помощь «Торпедо» в решающем матче

МВД назвало размер взятки арбитру за помощь «Торпедо» в решающем матче

В МВД сообщили детали расследования об оказании влияния на исход матчей с участием московского футбольного клуба «Торпедо». По данным ведомства, главному судье от руководителей клуба были переданы полтора миллиона рублей. Ранее сегодня«Торпедо» исключили из числа участников предстоящего чемпионата РПЛ.

«Торпедо» исключили из числа участников РПЛ, но клуб «будет жить»

«Торпедо» исключили из числа участников РПЛ, но клуб «будет жить»

Футбольный клуб «Торпедо» исключили из числа участников предстоящего чемпионата Российской премьер-лиги (РПЛ). Клуб также был оштрафован на 5 миллионов рублей. Бывший гендиректор клуба Валерий Скородумов и совладелец Леонид Соболев отстранены от любой связанной с футболом деятельности.

Вкусный раздел

Дарья Близнюк: «Заготовки от Даши. Вкусно, как ни «крути»!

Дарья Близнюк: «Заготовки от Даши. Вкусно, как ни «крути»!

Домашние заготовки — простой способ есть полезные фрукты и овощи круглый год. А еще это очень удобно: делать их легко и под рукой всегда будет готовая еда. Тем более баночка угощения, сделанного своими руками, — лучший подарок.

Анна Аксёнова: Муссовые торты. Легче легкого!

Анна Аксёнова: Муссовые торты. Легче легкого!

Безупречная форма, гладкое покрытие, идеальный разрез — книга расскажет, как приготовить торт перфекциониста. Вы увидите муссовые торты в разрезе и узнаете, как приготовить каждый слой: бисквит, хрустящий слой, начинку, мусс, покрытие.

Софи Дюпюи-Голье: Мир хлеба. 100 лучших рецептов домашнего хлеба со всего мира

Софи Дюпюи-Голье: Мир хлеба. 100 лучших рецептов домашнего хлеба со всего мира

Аромат свежеиспеченного хлеба повышает уровень эндорфинов, гормонов счастья. Это работает на генетическом уровне, ведь хлеб — универсальный продукт, основа повседневного рациона всех народов мира.