Роботизация войны

В настоящее время автономные боевые системы и беспилотные летательные аппараты, в частности, воспринимаются как новейшее средство ведения войны. Однако в действительности они имеют достаточно продолжительную историю применения. Боевые средства, которые могут двигаться и наносить удары без непосредственного участия человека, появились как минимум столетие назад.

Но всё это были различные виды оружия, не отличавшиеся разнообразием в своих функциях. Например, это могла быть бомба, привязанная к воздушному шару, летающая или плавающая торпеда, самонаводящаяся ракета. Их запуск контролировался человеком, после чего они действовали единственным возможным образом. Дроны в современном смысле слова, как автономные боевые системы, выполняющие сразу множество функций, стали разрабатываться в 1970–1980-е годы. Это были машины, которые могли сами контролировать свой полёт, собирать данные, передавать их в режиме реального времени и вести телетрансляцию. Именно это стало новым словом в военной технике.


Японский огненный воздушный шар «Фу-го», 1945 г. / Wikimedia Commons

Нередко при изобретении нового боевого средства или с началом его интенсивного использования создаётся впечатление, что оно изменит способы ведения войны и её понимание до неузнаваемости, приблизит человечество к Апокалипсису или, наоборот, сделает войну абсолютно невозможной. Так происходило при освоении стрельбы с закрытых позиций или при увеличении разрушительной мощности артиллерийских орудий, после появления в арсенале пулемёта, динамита, летательных аппаратов и особенно ядерного оружия. Мы уже писали о подобном восприятии роли, которую должна сыграть техника в деле постепенного убывания войны. Перед Первой мировой войной оно нашло воплощение в сочинениях И.С. Блиоха, Н. Энджелла и ещё многих авторов. Безусловно, интенсификация использования дронов также породила ощущение, что война меняется принципиальным образом. Однако, как представляется, боевое применение дронов создаёт уникальную ситуацию в осмыслении войны. Особенность её в том, что дроны меняют войну, но не таким образом, что делают её чрезмерно жестокой или бессмысленной, поскольку обрекают одну из сторон на тотальное уничтожение. Наоборот, складывается впечатление, что роботизированные системы воплощают собой мечту многих поколений — если не избавиться от войны, то хотя бы сделать её менее кровавой и воевать без потерь.

И эти характеристики боевых роботов меняют войну таким образом, что мы начинаем быть менее восприимчивыми к вопросу о конце всех войн, и даже наоборот, готовы принять войну, дать ей переоценку, отказаться от обычных проклятий войны как бича человечества.

Можно выделить сразу несколько преимуществ, которые отличают современную войну, ведущуюся при помощи автономных боевых систем, и которые свидетельствуют об особом моральном преимуществе применения дронов по сравнению с конвенциональными видами оружия. Во-первых, нередко война признавалась ужасной тяготой, которая ложилась на людей, но, с другой стороны, она считалась необходимой для продолжения развития цивилизации, поскольку она оживляет политическую жизнь, приободряет «душу наций», а кроме того, способствует прогрессу — многие научные достижения связаны со стоявшей перед человеком необходимостью решить военные задачи. Соответственно, этот аргумент может развиваться дальше таким образом, что война хотя и ужасна, но всё же необходима. А вследствие технологического роста, при постоянном совершенствовании средств нападения и обороны и появлении новых видов оружия, со временем мы должны прийти к такому состоянию, когда человек перестанет серьёзно страдать от войны или даже совсем будет исключён аспект, связанный с убийством людей, так как воевать будут машины. Дроны в буквальном смысле свидетельствуют об объективной возможности реализации этого сценария.

Во-вторых, дроны позволяют реализовать идеал войны как таргетированного (направленного) убийства (targeted killing). В идее таргетированного убийства легко угадывается абсолютизация принципа различения: убийству подлежат не все комбатанты, но только те, кто действительно «заслуживает» этого или чьё убийство целесообразно с военной точки зрения — например, командиры подразделений; стратеги, принимающие решение о проведении боевых операций; лидеры вооружённых отрядов. Значит, нужно вести войну так, чтобы гибли на ней только эти, законные цели. В результате таргетированного убийства удаётся исключить массовых и случайных жертв. И как отмечает Майкл Уолцер (американский политический философ и общественный деятель, изучающий проблемы справедливой войны — прим. IQ.HSE), применение дронов как нельзя лучше реализует задачу таргетированного убийства, поскольку само представление о том, как они должны быть использованы, прямо противоположно практике ненацеленого убийства.

В-третьих, применение боевых дронов обладает мощным психологическим эффектом. Беспилотный летательный аппарат наносит удар внезапно, его жертвы часто не успевают понять, что они подверглись атаке. А после нападения дрон исчезает, не дав возможности нанести ответный удар по нему, а его оператор находится за сотни или тысячи километров. Всё это должно деморализовать противника, заставить его постоянно чувствовать себя в опасности, даже в тот момент, когда он не находится непосредственно на линии фронта. Как это сформулировал Уолцер: «…наши враги уязвимы более, чем когда-либо, и мы можем добраться до них без какого-либо риска для наших собственных солдат».

В-четвёртых, традиционно восприятие солдата сводилось к тому, что он по роду своей профессии наделяется особым статусом. Ему дозволено носить и использовать оружие, но он же обязан рисковать своей жизнью во имя своего политического сообщества. На это, в частности, указывает концепция морального равенства комбатантов. Принятие на вооружение роботизированных систем позволяет избежать риска для жизни пилотов или солдат, которым раньше приходилось принимать непосредственное участие в атаках на вражеские позиции или спецоперациях по уничтожению террористов.

В-пятых, беспилотные летательные аппараты многофункциональны, они собирают больше информации, поэтому снижается потребность в живой силе для ведения полевой службы. Дроны могут и наблюдать, и нацелено нападать, причём с большей точностью. Они рассеивают туман войны, что облегчает планирование, координирование и проведение операций.

В-шестых, перед большинством современных государств стоит задача научить солдат соблюдению и применению норм морали. Это долгий процесс воспитания навыков автономного суждения и выработки морального чувства. Но даже хорошо обученный военной этике солдат сталкивается с проблемой практического применения своих знаний. Часто принятие морального решения требует всестороннего и взвешенного анализа ситуации, сопоставления разных обстоятельств, после чего можно сделать вывод о том, какое именно действие следует совершить. В реальной боевой обстановке такого времени у солдат может попросту не быть — действовать необходимо быстро. Очевидно, что компьютерный алгоритм справится с подобной аналитической работой гораздо удачнее и точнее.

Можно также ожидать, что автономные боевые системы способны обучиться большей дисциплинированности и разборчивости в выборе своих целей. Особенно значимо это для действия в условиях новых войн, которые зачастую ведутся в городской или сельской местности, где гражданское население остаётся в своих домах. Для новых войн характерна также высокая степень асимметрии, т.е. в них участвуют нерегулярные армии, бойцы которых не носят униформу. Солдатам порой почти невозможно опознать своего противника и отличить его от местного жителя, женщины или ребёнка. Робот мог бы делать это распознавание точнее и опять же принимать решение быстрее, что помимо прочего обеспечит и снижение потерь среди гражданских лиц.

В-седьмых, стоит указать на ещё одну отличительную особенность роботизированных систем, отчасти дополняющую предыдущий пункт. Роботы не обладают психикой, подобной человеческой. Если моральные принципы, согласно которым должно вести войну, загрузить в виде программы в автономную боевую систему, машина будет действовать в соответствии с заданными таким образом лимитами дозволенного. То есть получится сделать поведение робота соотнесённым с нормами военной этики. При этом выполнение роботом обязательств, налагаемых моралью, не будет сопряжено с психологическим давлением, которое может испытывать живой солдат.

Например, если робот распознает, что его сослуживца-робота подобьют, то вряд ли он впадёт в оцепенение или начнёт с большей жестокостью атаковать противника, игнорируя моральные и правовые нормы ведения боя. Робота нельзя спровоцировать на расстрел гражданского населения и разрушение их жилищ и уничтожение собственности. Помимо этого робот способен точнее выполнить приказ, поскольку ему не нужно тратить время на размышления о том, какое действие предпринять — спасать своего раненого или умирающего товарища, в панике бежать с поля боя или продолжить выполнение боевой задачи.

В-восьмых, роботизированные системы в несколько десятков раз дешевле пилотируемых боевых машин. Так, например, разведывательно-ударный дрон MQ-9 Reaper стоит около 6,5 млн долл., а час его работы оценивается в 3 тыс. долл. Истребитель-бомбардировщик Локхид-Мартин F-35 стоит 91 млн долл., и час его эксплуатации обходится в 16,5 тыс. долл.


Локхид-Мартин F-35 / Wikimedia Commons

Обозначенные выше пункты конвертируются из непосредственно военных выгод применения роботизированных систем в политические и даже психологические преимущества их эксплуатации. Политическому руководству, которому приходится сталкиваться с делегитимацией войны и необходимостью вести боевые действия с нулевыми потерями, не всегда просто объяснить своим гражданам, ради чего начинается та или иная военная кампания, особенно если она не вызвана крайней необходимостью. А в случае понесённых потерь оно обязано обосновывать общественную значимость таких жертв и, возможно, даже успокаивать население. Робот снимает эту ношу с политического руководства. Население, которое не становится свидетелем людских потерь, будет спокойнее и легче воспринимать войну. Таким образом, уменьшаются внутри- и внешнеполитические риски ведения войны.

С аналогичным эффектом сталкиваются и военные начальники — им проще проводить операции и отдавать приказы на уничтожение, так как они не столкнутся с физическими потерями в своих подразделениях. В самом страшном случае выйдет из строя или будет подбит робот. Помимо прочего, правительство и военачальники ограждают себя от необходимости решать физические и психологические проблемы, с которыми сталкиваются военнослужащие: посттравматическое стрессовое расстройство (ПТСР), ресоциализация, алкоголизм, наркомания и т.д. И самое главное — дроны требуют гораздо меньших расходов и усилий для поддержания их «морального» духа. Их даже не нужно кормить и развлекать. Всё это позволяет говорить о том, что массовое применение роботизированных систем обеспечивает не только количественное, но и качественное изменение войны и способов её восприятия.

Но тут же мы должны сказать и о негативных сторонах роботизации войны. Можно выделить сразу несколько групп опасностей, связанных с ведением войны при помощи автономных боевых систем. К ним можно отнести психологические, моральные и, наконец, политические. Часто они накладываются одна на другую.


Антивовоенная акция протеста в Миннеаполисе, 2013 г. / Wikimedia Commons

Начнём с того, что представление о том, что роботы и дроны снимают все психологические проблемы, вызванные войной, может оказаться преувеличением и переоценкой действительного состояния дел. Командиры подразделений, которые используют беспилотные летательные аппараты для проведения боевых операций, нередко жалуются, что участие в таких операциях кажется им едва ли не более сложным, нежели действия непосредственно на поле битвы. Отчасти это связано с тем, что оператор отделён несколькими тысячами километров от участка, где он проводит операцию, и лишается опыта непосредственного участия в ней и включённого наблюдения. Кроме того, влияние оказывает и то, что операторы в течение дня минимум дважды меняют образ своей жизни. Отправляясь утром к месту несения службы, где им, возможно, придётся участвовать в убийстве людей, оператор попадает на войну, но тут же, вечером он возвращается к гражданской жизни, приезжает к своей семье и бытовым проблемам. Поскольку мы находимся в самом начале эры роботизации войны, пока не вполне ясно, с какими психологическими проблемам могут столкнуться операторы, находящиеся в таком непростом положении. Например, не столкнёмся ли мы с ростом бытового или домашнего насилия, если операторы будут чувствовать необходимость получать эмоциональную разрядку или не будут способны перейти от типа поведения, уместного в военных обстоятельствах, к гражданскому. Или, в профессиональной деятельности, смогут ли они продолжить выполнять поставленную задачу достаточно ответственно, воспринимая боевую операцию не как компьютерную игру, а как опасную миссию, в результате которой гибнут люди и которая вследствие этого накладывает дополнительные обязательства на её исполнителей. Это в первую очередь психологические аспекты роботизации войны, но они имеют прямое отношение и к её моральному ограничению.

Дополнительное напряжение создаёт и вопрос об ответственности за действия робота или дрона. Лежит ли она на офицере, который отдал приказ о проведении операции, на обслуживающем персонале, операторе? Но является ли в принципе оператор, не находящийся физически на поле боя, комбатантом? Или, возможно, нужно учитывать также и ответственность программиста, который создал алгоритм, определяющий принципы функционирования робота: идентификация цели, способ прицеливания, параметры определения выполнения поставленной задачи, принятие решений в сложных условиях, например, когда противник использует живые щиты? Как мы отметили, у дрона нет психики, повреждение которой может заставить его действовать аморально. Но при этом сам характер его действий определяется людьми, участвующими в его создании, и военные заказчики, а возможно, и сам программист, закладывают в робота собственные принципы этики поведения на поле боя.

Но это также означает, что дрон не является субъектом морального действия, поскольку он не обладает эмоциями, эмпатией, не способен на чувства и не имеет представления о совести, вине, стыде. При этом он способен действовать с высочайшим уровнем автономии, самостоятельно находя цели и принимая решение о нанесении удара по ним. Если в связи с этим ответственность за действия роботизированной системы переносить на тех, кто обслуживает или создаёт её, мы окажемся в нетривиальной ситуации. Необходимо будет пересмотреть принцип различения jus in bello. Вместо того чтобы сократить число людей, задействованных на войне, использование роботизированных систем может заставить идентифицировать как участников боевых действий представителей гражданских профессий — таких, как программисты.
IQ