Почему военные выступают за создание «роботов-убийц»
В конце августа в Женеве практически безрезультатно завершилось очередное заседание Группы правительственных экспертов ООН по боевым автономным системам, иначе говоря, по боевым роботам. Ожидалось, что эксперты получат мандат на определение юридического статуса таких систем, после чего можно было бы говорить о регламентации или полном запрете их применения. Мандат в итоге выдан не был. Вскоре после этого в США была обнародована «дорожная карта» развития военных роботов, предусматривающая, помимо прочего, повышение степени их самостоятельности за счет использования нейросетевых технологий. Пока противники и сторонники автономных боевых систем спорят между собой, мы решили разобраться, почему военные считают разработку «роботов-убийц» важной задачей и какую роль они отводят им в войнах будущего.
Автономные боевые системы в разных видах существуют уже давно. Например, на американские и британские корабли с 1970-х годов ставятся артиллерийские системы Phalanx, способные самостоятельно обнаруживать воздушные и надводные цели и обстреливать их. При этом участие оператора может сводиться лишь к выставлению критериев, которым должна соответствовать та или иная цель, чтобы система сочла возможным открыть огонь. На вооружение России с 2007 года поступают зенитные комплексы С-400 «Триумф», которые могут в полностью автоматическом режиме обнаруживать воздушные цели, классифицировать и приоритизировать их, а затем выпускать по ним ракеты. Израильский противоракетный комплекс «Железный купол» (Iron Dome), принятый на вооружение в 2011 году, тоже умеет работать в автоматическом режиме. Причем эта система способна даже отделять потенциально опасные цели от неопасных: если падение ракеты-цели ожидается в ненаселенной местности, перехватывать ее комплекс не станет.
При этом о правомерности использования боевых роботов в военных конфликтах впервые задумались только в 2013 году. Тогда Совет по правам человека при ООН поставил вопрос о потенциальной угрозе здоровью и жизни людей в условиях войны с применением «роботов-убийц». Непонятно было и то, как развитие автономных систем повлияет на международную безопасность. В итоге за полный запрет боевых роботов выступили 26 стран. По мнению их экспертов, отсутствие запрета может привести к появлению высокотехнологичных тираний и значительному росту гражданских потерь в военных конфликтах.
Коротко их аргументы, которые они считают непреодолимыми, можно сформулировать так.
Существование боевых роботов нарушит положения Женевских конвенций в части защиты прав гражданского населения в зоне военных конфликтов, в особенности принципов различения и соразмерности.
Первый принцип требует обязательного и однозначного разделения людей в зоне боевых действий на комбатантов (тех, кто непосредственно участвует в боевых действиях) и некомбатантов (мирных жителей, а также военнослужащих и вольнонаемных, не участвующих в боевых действиях и имеющих право применять оружие только для самообороны; например, членов обслуживающего персонала).
Принцип соразмерности допускает потери среди некомбатантов, но только в том случае, если они уступают потерям среди комбатантов и перекрываются преимуществами от той или иной военной операции. Упрощенно принцип соразмерности подразумевает запрет на излишние страдания мирного населения.
Кроме того, активное использование «роботов-убийц», по мнению ряда экспертов, нивелирует непосредственную ответственность командиров за те или иные действия. В частности, непонятно, кто будет отвечать в случае сбоя в программе робота, из-за которого тот начнет убивать и мирное население: командир на поле боя, компания-производитель, конкретный программист или конструктор? Противники боевых роботов уверены, что ответственность не понесет никто. Более того, командир, отправивший робота на задание с намеренным приказом убивать всех подряд, может впоследствии утверждать, что массовое убийство людей произошло из-за сбоя в программе робота.
Наконец, предполагается, что повсеместное использование боевых роботов приведет к обесцениванию человеческой жизни, поскольку в войнах будущего люди станут не более чем отметками на дисплее.
Позиции противников боевых автономных систем, в принципе, не так уж неуязвимы (как, впрочем, и позиции сторонников таких систем). В частности, принцип различения можно соблюсти, добавив в программу вооруженного робота обязательно условие: первый выстрел должен сделать потенциальный противник (если человек обстреливает робота, значит он участник боевых действий). А виновного в неправомерном использовании боевых роботов можно будет определять по логам в памяти самих машин.
Однако никакой разговор о запрете или ограничении применения «роботов-убийц» на международном уровне невозможен хотя бы потому, что на сегодня не существует даже общепризнанного определения автономности боевых систем. Одни считают автономным робота, способного применять оружие без вмешательства оператора, а другие, как, например, министерство обороны Великобритании, — способность робота самостоятельно делать выбор из нескольких решений (включая применение оружия) с учетом множества внешних факторов — как под надзором оператора, так и без него.
С 27-го по 31 августа в Женеве состоялось очередное заседание Группы правительственных экспертов ООН по боевым автономным системам (предыдущие два прошли в декабре 2017-го и апреле 2018 года). Предполагалось, что по итогам этого заседания группа получит право выработать предварительную версию правил применения боевых роботов в военных действиях, но для этого нужен был консенсус, достичь которого не удалось.
Несколько стран, включая США, Россию, Австралию, Израиль и Южную Корею, заявили, что вводить полный запрет на применение боевых автономных роботов не следует. При этом российские дипломаты отметили, что боевых роботов сегодня не существует, а превентивное введение запрета на них не имеет смысла. В ходе заседания Россия, США, Франция и Германия предлагали выпустить политическое заявление, в котором страны — участники заседания дали бы гарантии, что человек всегда будет иметь контроль над действиями «роботов-убийц».
По итогам заседания стороны договорились лишь в том, что разработка боевых систем с искусственным интеллектом должна вестись в соответствии с международным гуманитарным правом (совокупность правил, обычаев, норм и принципов, ограничивающих методы и средства ведения войны и защищающих участников военных действий и мирное население), а ответственность за применение «роботов-убийц» в любом случае должен нести человек.
За многие годы военные из разных стран мира назвали множество причин, по которым боевые автономные системы необходимы в составе вооруженных сил. В их числе — повышение точности ударов, наносимых по позициям противника, снижение сопутствующего ущерба (дополнительных разрушений и гибели людей при поражении основной цели), экономия средств военного бюджета и многое другое. Однако определяющие влияние на развитие военной робототехники оказывают всего четыре главных фактора: стремление снизить потери собственных военнослужащих, постепенное усложнение вооруженных конфликтов, гонка вооружений и компенсация численности вооруженных сил.
Все остальные причины, оправдывающие разработку «роботов-убийц» (речь идет именно об автономных вооруженных системах; вопрос развития невооруженных систем, в том числе разведывательных, более обширен), вероятно, оказывают на развитие боевых автономных систем лишь косвенное влияние.
Снижение потерь собственных военнослужащих в вооруженных конфликтах — одна из наиболее очевидных целей, поскольку позволяет сохранять численный паритет с противником или численное превосходство над ним. Меньшие потери снижают и военные расходы — от выплат по страховым полисам до трат на организацию спасательных операций, эвакуацию и захоронение останков погибших. Кроме того, подготовка профессиональных военных довольно дорога и требует много времени, а потому терять их в вооруженных конфликтах крайне убыточно.
Министерства обороны нескольких стран мира, включая США и Россию, полагают, что использование боевых роботов позволит быстрее и с минимальным риском для жизни солдат решать сложные боевые задачи, включая военные действия в условиях плотной городской застройки или активной снайперской охоты.
Предполагается, что к 2050 году более 80 процентов населения планеты будет проживать в городах, а значит, вооруженные конфликты будут возникать именно в городских условиях. Ведение боевых действий в городе значительно сложнее, чем, скажем, на открытой местности, поскольку опасность грозит подразделениям буквально со всех направлений, в том числе из-под земли (канализации или метро) и сверху (из окон высоких зданий). В городе даже небольшая и, казалось бы, простая операция легко может превратиться в кровавую бойню.
Использование же различных боевых роботов — от небольших вооруженных мультикоптеров до высокомобильных наземных систем — в городских условиях может существенно упростить планирование и проведение военных операций, в которых фактически одни и те же машины могут быть и разведчиками, и диверсантами, и штурмовыми бойцами.
Гонка вооружений является еще одним доводом, который приводят военные в пользу боевых автономных систем. Дело в том, что военный прогресс постепенно ведет к созданию все более совершенных вооружений и военной техники. Ведущие страны мира, например, занимаются созданием гиперзвукового оружия, которое сможет прорывать системы противоракетной обороны противника. Для перехвата гиперзвуковых ракет потребуется разработка новых автономных противоракетных комплексов с искусственным интеллектом, способных самостоятельно обнаруживать, классифицировать и обстреливать баллистические, аэробаллистические и аэродинамические цели. Из-за крайне высокой скорости этих целей люди, входящие в расчеты противоракетных комплексов, просто не будут успевать анализировать воздушную обстановку, принимать решения и отдавать команды.
Наконец, вооруженные силы некоторых стран мира столкнулись с постепенным сокращением численности в силу демографических или экономических причин. Например, из-за постепенного снижения рождаемости снижается численность вооруженных сил Южной Кореи, так что некоторые подразделения уже сегодня комплектуются не полностью. В составе ВВС США возник дефицит операторов беспилотных летательных аппаратов и летчиков истребителей.
Предполагается, что разработка полностью самостоятельных боевых роботов позволит решить проблемы комплектации вооруженных сил. Например, по оценке министерства обороны Южной Кореи, применение автономных боевых турелей на самоходных гаубицах K9 Thunder позволит заменить в войсках две тысячи человек. В свою очередь, американцы полагают, что создание автономных ударных беспилотников позволит устранить дефицит операторов, поскольку благодаря высокой степени автономности дронов один человек сможет управлять сразу несколькими аппаратами.
Сегодня предприятия российского оборонного комплекса занимаются разработкой наземных боевых роботов семейств «Уран», «Нерехта» и «Соратник», которые планируется использовать для огневой поддержки пехоты, охраны военных и важных инфраструктурных объектов, разведки боем, прорыва обороны противника. В свою очередь в США ведутся работы по созданию беспилотных летательных аппаратов XQ-58A Valkyrie, которые бы выполняли роль ведомых в боевых группах истребителей. Такие беспилотники могли бы вести разведку, прикрывать пилотируемый ведущий истребитель, вести маневренный воздушный бой или обеспечивать наземным отрядам огневую поддержку с воздуха.
Южная Корея занимается созданием разведывательных и боевых воздушных, наземных, надводных и подводных роботов, которые бы позволили компенсировать недобор в вооруженные силы. Китай, помимо прочего, работает над танками-роботами, которые позволят снизить потери в интенсивных танковых боях. А в Израиле в ближайшие несколько лет планируется принять на вооружение боевых микророботов, которые будут использоваться для уничтожения лидеров боевиков «Хезболлы» и ХАМАС.
Этическая и юридическая стороны подобных разработок требуют тщательного обсуждения. Можно ли наделять роботов правом убивать людей? Допустимо ли заменять людей, способных прочувствовать ту или иную ситуацию, безэмоциональными исполнителями? Где проходит грань между гражданскими и военными разработками автономных роботов, в основу которых легли одни и те же технологии? Правильно ли убирать солдат с поля боя и усаживать их за пульты управления с удобными креслами за тысячи километров от боевых действий?
«Роботы-убийцы» пока не стали частью современных боевых действий, но начать подготовку юридической базы для применения таких систем следует уже сейчас, потому что прогресс движется очень быстро. И США, и Россия, и некоторые другие страны заявляют, что не планируют делать боевые системы полностью самостоятельными. При этом в США отметили, что допускают возможность переключения «роботов-убийц» в полностью автономный режим в качестве ответа на появление боевых автономных роботов у авторитарных режимов.
Василий Сычёв