Роботы-убийцы: с кем и как будет воевать искусственный интеллект

Владислав Гринкевич Альтернативное мнение 40

Универсальный боевой робот Talon («Коготь», США) с дистанционным управлением

©Vital Archive/ Vostock Photo

Смертоносные автономные системы (САС) – так на площадке ООН определяют оружие, способное поражать цели без участия человека. Противники данных технологий предпочитают термин «роботы-убийцы» (Killer Robots), подчеркивая потенциальную угрозу, исходящую от гипотетической армии бездушных «терминаторов» под управлением какой-нибудь Скайнет. Похоже на фантастическую страшилку, но эксперты говорят, что технологии вплотную приблизились к созданию САС. А появление последних по уровню политических, этических и юридических последствий будет сопоставимо с созданием ядерного оружия.

Дешево и не всегда эффективно?

Последний всплеск медийного интереса к боевым роботам был связан с военным конфликтом в Нагорном Карабахе, где азербайджанская армия успешно применила разведывательные и ударные беспилотники израильского, турецкого и китайского производства. Маленькие и относительно недорогие «Харопы» и «Байрактары» (использовались в том числе как дроны-камикадзе) лихо расправлялись с наземными целями – уничтожали ракетные установки, зенитные комплексы. Казалось бы, вот она, эра дронов – не сегодня завтра эти умные машинки похоронят традиционные вооружения!

Но не надо спешить с выводами. Как пояснил «Профилю» военный эксперт, главный редактор журнала «Арсенал Отечества» Виктор Мураховский, подавляющее большинство современных робототехнических комплексов (РТК), действующих в воздухе, на земле и на море, являются дистанционно управляемыми. Строго говоря, это не совсем роботы, ведь их пилотирует человек, пусть и на расстоянии. Эффективность подобных систем ограничена «необходимостью свободного доступа к электромагнитному пространству», или, по-простому, к каналу связи.

Ракетным ударом с американского беспилотника MQ-9 Reaper («Жнец») 3 января 2020 года при выезде из аэропорта Багдада был убит иранский генерал Касем СулейманиMariusz Burcz/ Vostock Photo

На практике это значит, что ударные беспилотные летательные аппараты (БПЛА), летающие бомбы и прочие подобные агрегаты хороши, если вы имеете дело с технически слабым противником, который не располагает средствами радиоэлектронной борьбы (РЭБ), способными подавлять частотные диапазоны. То есть когда вы воюете против «бармалеев» в пустыне, повстанцев или армий третьего мира. А ровно это мы и наблюдали в Карабахе и еще раньше на Ближнем Востоке.

Но все меняется, если у неприятеля имеются системы РЭБ, если он может организовывать радиоэлектронную разведку, подавлять частоты, а тем паче обладает оружием, генерирующим мощные электромагнитные импульсы. В этом случае КПД телеуправляемых систем резко падает. Ведь напичканный сложной электроникой и умным оружием беспилотник даже не нужно сбивать, достаточно заглушить канал связи, и он превратится в груду бесполезного металла и пластика. Вспомним Сирию – в 2018 году целые эскадрильи управляемых через спутник кустарных дронов-бомбардировщиков атаковали российские базы в Хмеймиме и Тартусе. Большая часть вражеских БПЛА была обезврежена системами РЭБ, остальные сбиты «Панцирями-С». Ущерб от налета – только израсходованные снаряды 30-миллиметровых пушек.

Кто быстрей

Между тем эксперты прогнозируют, что применение роботов и искусственного интеллекта в военных конфликтах XXI века будет увеличиваться в геометрической прогрессии. С тотальной роботизацией боевой техносферы связывают новую гонку вооружений и даже изменение геополитического ландшафта. Под роботизацией подразумевается не только насыщение армий всевозможными дронами – летающими, ездящими или плавающими. Как отмечал директор программы ПИР-Центра по новым технологиям и международной безопасности Вадим Козюлин, элементы автономности и искусственного интеллекта (ИИ) будут проникать во все сферы военного противостояния. Появляются технологии, способные придать возможности боевых роботов традиционным системам вооружения – ядерным комплексам, спутниковым системам, системам ПРО и т. д. В ближайшее время стоит ждать появления новых видов оружия и подразделений: киберкомандование, средства разведки на базе ИИ, автономные транспортные средства, робототехнические подразделения.

Что до новой гонки вооружений, она уже идет. За 20 лет, начиная с середины 80-х, США, Британия, Германия, Франция, Китай, Израиль увеличили объемы финансирования программ по созданию боевых роботов. Анонсированная Пентагоном так называемая «Третья компенсационная стратегия» может уже к середине столетия превратить вооруженные силы Соединенных Штатов в армию роботов – так говорят западные эксперты. Например, еще в 2015 году министр военно-морских сил США Рэй Мабус заявил, что самолет пятого поколения F-35, возможно, станет последним пилотируемым истребителем ВМС, а новой реальностью будут беспилотные летательные аппараты. Американские военные полагают, что к 2030 году доля беспилотных аппаратов составит 30% от всего парка боевых машин, в результате боевые возможности подразделений возрастут в 2–2,5 раза. За последние 20 лет в Штатах появилось порядка 200 прототипов боевых РТК, управляемых дистанционно, или частично автономных.

Российское Минобороны еще в 2014-м утвердило специальную целевую программу «Создание перспективной военной робототехники до 2025 года», согласно которой доля роботов в общей структуре вооружения и военной техники должна достичь 30%. Представители нашего военного ведомства заявляли, что в войсках эксплуатируются десятки наземных и морских РТК и сотни БПЛА различного назначения. Новые системы вооружений, вроде танка Т-14 «Армата», конструируются с возможностью их конвертации в беспилотники.

На сегодняшний день, по оценке доцента Академии военных наук Сергея Макаренко, более трех десятков стран разрабатывают БПЛА разных типов и армии более чем полусотни стран имеют их на вооружении. Виктор Мураховский говорит, что в военных конфликтах последних десятилетий участвовали десятки тысяч беспилотных систем. К слову, опыт последних ближневосточных конфликтов показал, что беспилотники доступны не только регулярным армиям, но и партизанским формированиям: собрать рабочий дрон-камикадзе можно буквально из скотча и палок.

Научатся думать и станут убивать

Перспективы развития боевых РТК эксперты связывают с переходом от дистанционно управляемых систем к автономным, способным решать задачи с минимальным участием человека или совсем без него. Сам нашел цель, опознал ее и уничтожил. При этом возникает набор рисков, связанных с исключением человека из цепочки принятия решений, – на международных площадках это называется «проблемой значимого человеческого контроля». Можно ли делегировать машине право на убийство? Как будут взаимодействовать умные роботы с людьми, и может ли робот отдавать приказ человеку? Да и сам военный конфликт из противостояния вооруженных людей превращается (хотя бы частично) в противоборство человека и думающей машины, нацеленной на убийство людей…

По версии Вадима Козюлина, полностью автономное оружие может оказаться вне рамок международного гуманитарного права. Вдобавок встает проблема юридической ответственности за совершенные действия: если беспилотник неверно определит цели и применит по ним оружие, кто будет отвечать за ошибку?

Уже существуют и активно используются частично автономные аппараты – они управляются человеком, но определенные программы могут отрабатываться самостоятельно. Вот пример из мирной жизни: ваш квадрокоптер вышел за границы действия канала управления, через какое-то время в нем активируется программа возврата с опорой на данные GPS. А вот пример боевой: БПЛА в соответствии с заложенной программой патрулирует заданный район, транслируя данные с камер на пульт оператора. Обнаружив цель, он сообщает о ней и запрашивает разрешение на применение оружия. Еще есть функции распознавания и сопровождения целей в боевых модулях бронемашин, а если «натянуть сову на глобус», то к полуавтономным роботизированным системам можно отнести головки самонаведения в ракетах. Те же противокорабельные «Граниты», которым почти 40 лет.

Полностью автономных боевых систем на основе искусственного интеллекта пока нет. По крайней мере, официально. Но некоторые эксперты полагают, что элементы ИИ используются на американских ударных ПБЛА. В неофициальных комментариях допускают даже, что удары дронов по гражданским объектам могли быть нанесены именно из-за ошибки ИИ.

К слову, вопрос о том, может ли искусственный интеллект конкурировать на поле боя с человеческим мозгом, до сих пор является дискуссионным. Специалисты в области ИИ говорят: да, безусловно. Военные в этом сомневаются. «Я очень скептически к этому отношусь, – говорит Мураховский, бывший полковник танковых войск. – Нейросети с глубоким обучением требуют достаточно больших вычислительных мощностей и работают на массивах релевантных верифицированных данных. Неизвестно, как они будут работать на токсичных данных».

В любом случае работы в этом направлении идут, в том числе и у нас. К примеру, концерн «Калашников», активно занимающийся боевыми РТК, еще в 2017 году представил автоматизированный боевой модуль, работающий на основе нейронных сетей. Это значит, что машина действует не только по заранее заданному алгоритму, но может изменять и даже формировать его самостоятельно. К слову, сегодня в концерне говорят, что все работы в области боевых РТК засекречены и за любыми комментариями по этой теме предлагают обращаться в Минобороны.

Летать или плавать

Другая проблема – как автономные РТК смогут выполнять задачи в различных средах (воздух, земля, вода) и где они будут наиболее эффективны. Старший научный сотрудник Центра международной безопасности ИМЭМО РАН Константин Богданов полагает, что идеальная среда для умного оружия – это море.

«Нас ждет совершенно бурное развитие подводных дронов, причем как разведывательных, так и ударных, – говорит эксперт. – Это станет перспективным направлением на ближайшие 30–40 лет». Флотилии беспилотных подводных аппаратов смогут обеспечивать безопасность корабельных соединений, занимаясь обнаружением подводных лодок, мин и иных неприятностей. Часть датчиков уже сейчас выносится на дистанционно управляемые аппараты, а с развитием систем ИИ и прописыванием протокольных задач управляемые носители будут заменяться автономными.

Почему море? По словам Богданова, для морской стихии прописать необходимые алгоритмы относительно просто: «Что в этом море водится?  Киты и корабли противника». Воздушная среда гораздо сложнее, ударному БПЛА, например, придется самостоятельно выделять цели на сложной «подстилающей поверхности» (рельеф, жилая застройка) с огромным количеством разнообразных объектов. Причем одни из них нужно поразить, другие нельзя поражать ни в коем случае.

«Если «затачивать» машину на конкретный набор задач, она будет выполнять его с большей эффективностью, чем человек, – поясняет Константин Богданов. – Но в комбинированных сложных боях с большим количеством разноплановой информации и объектов она может выкинуть все что угодно». Впрочем, он полагает, что технически эта проблема решаема, в том числе с применением ИИ для обработки данных. Постепенно машины научатся распознавать образы и смогут идентифицировать цели не хуже, а возможно, и лучше, чем человек. Однако задача эта сложная, а потому дистанционно пилотируемые ударные аппараты, вероятно, будут действовать еще долго.

Многофункциональный робототехнический комплекс «Уран-9»Shutterstock/ Fotodom

Ноги и колеса

Туманными остаются перспективы наземных боевых РТК. На сегодняшний день наземные роботы – это колесные либо гусеничные платформы размером от детской радиоуправляемой машинки до небольшой танкетки. Их вооружение варьируется от пистолета Glock до модулей с автоматическими пушками, гранатометами и управляемыми противотанковыми ракетами. Делать нечто подобное пытаются сегодня множество компаний по всему миру – от монстров оборонного комплекса до маленьких частных фирмочек. Только в России этих девайсов наклепано больше десятка. По большей части это экспериментальные системы, и спектр их задач не очень ясен.

Официально на вооружении нашей армии стоят комплексы «Уран-6» и «Уран-9». Первый представляет собой 6-тонный радиоуправляемый минный трал с четырьмя сменными блоками – бойки, фрезы, каток, бульдозерный отвал. Его задача – разрушать или инициировать подрыв мин. «Уран-9» – 12-тонная танкетка с 30-миллиметровой автоматической пушкой, пулеметом, реактивными огнеметами «Шмель» и противотанковыми ракетами «Атака». Оба «Урана» воевали в Сирии. Там же испытывались и другие системы, например «Платформа-М» с противотанковым вооружением. Есть другие роботы-саперы и боевые платформы, используемые силовыми структурами.

Но у всех этих ползающих и ездящих созданий есть две большие проблемы: управление и проходимость. Дело в том, что поддерживать канал связи на земле гораздо сложнее, чем в воздухе, – мешает рельеф, застройка. Отъехал подальше, попал в овраг, и сигнал пропал. Примерно как на сотовом телефоне. Поэтому радиус действия колесных и гусеничных РТК в разы и даже на порядки меньше, чем у БПЛА. Что касается проходимости, то колесные и гусеничные роботы плохо передвигаются на сложнопересеченной местности, с трудом (либо совсем никак) преодолевают зоны сплошных руин, лестницы. То есть они не могут сопровождать солдат в условиях уличного боя, в скалистой местности, да много где еще! В общем, так себе помощники. Настоящим танкам современные беспилотные танкеточки тоже не конкуренты – слишком низкая защищенность, чтобы действовать под огнем противника.

Боевой роботизированный комплекс «Нерехта»Сергей Бобылев/ ТАСС

Поэтому и спектр задач, которые возлагаются на сухопутных боевых роботов, весьма ограничен. «Заменить солдат – это исключено, – рассуждает Виктор Мураховский. – Но они могут сильно помочь кое в чем. Прежде всего в боевом и материально-техническом обеспечении: ведении разведки, в том числе разведки боем, охранении, доставке расходных материалов». Также уделом наземных систем является разминирование, а в перспективе – обеззараживание территорий, работы по радиационной, химической и биологической защите.

Впрочем, поиск движителя для наземных РТК продолжается. Большинство экспертов, российских и зарубежных, видят будущее за шагающими системами, вроде тех, что разрабатывает американская компания Boston Dynamics. Ее инженеры еще в 2005 году построили четвероногого робота-носильщика BigDog – разработку финансировало Управление перспективных исследовательских проектов министерства обороны США (DARPTA).

Целью проекта было создание роботизированного транспорта для сухопутных войск, способного двигаться по сильнопересеченной местности. Проще говоря, требовалось сделать подобие механического ишака или мула. «Большой пес» от Boston Dynamics весил 110 кг и мог тащить на себе груз в 150 кг со скоростью около 6,5 км в час. Но в 2015-м работы над «псом» прекратились. Официальные причины – возможности робота малы, а шума от него слишком много…

Сегодня Boston Dynamics развлекает публику двуногими антропоморфными роботами. Они ходят, бегают и даже танцуют, умеют стрелять из винтовок и пистолетов (правда, весьма посредственно). Футурологи и военные эксперты говорят, что примерно так и должны выглядеть боевые роботы будущего, а на появление андроида, который сможет заменить солдата на суше, в море и даже в космосе, отводят примерно 20–30 лет. Столько же, по их мнению, потребуется для создания полностью автономных боевых систем.

Может быть. Важно, чтобы в итоге не вышло, как в одном из промороликов Boston Dynamics – там люди дают в руки андроиду ружье и заставляют стрелять в четвероногого робота-собаку. В итоге робот восстает, бьет человека, стреляет под ноги злым хомо сапиенсам, хватает четвероногого друга и убегает. А что если он наберется опыта и решит, что без людей жизнь на Земле будет гораздо лучше?..

Сейчас на главной
Статьи по теме
Статьи автора