Страж-птицы: Автономные боевые БПЛА больше не фантастика
Нужно серьезно задуматься над тем, что возможно когда-нибудь решения о жизни и смерти будут принимать аппараты, которые не управляются непосредственно людьми. В последние годы технология беспилотных летательных аппаратов быстро развивалась, причем степень автономности систем становится все выше. И хотя, насколько нам известно, еще не было введено в эксплуатацию ни одного утвержденного автономного беспилотного комплекса, испытания ведутся, и технологии эта разрабатывается. Некоторые видят новые возможности и потенциальные преимущества в связи с использованием автономных беспилотных аппаратов, другие считают разработку и использование подобной технологии по природе своей безнравственным. Такие влиятельные фигуры, как Стивен Хокинг, Илон Маск и Стив Возняк уже призвали наложить запрет на ведение боевых действий с применением автономных вооружений или искусственного интеллекта. Итак, каково положение дел и в чем основные правовые и этические вопросы?
Разработка автономных беспилотников
Пока что нет согласованного или юридического определения “автономных беспилотных систем“. В промышленности широко используется характеристика “автономный“, поскольку таким образом создается впечатление, что речь идет об очень современной и передовой технологии. Однако в некоторых странах принято более строгое определение того, что нужно называть автономным беспилотным аппаратом, например, в Соединенном Королевстве эти аппараты характеризуются следующим образом: “...способные понимать намерение и указания более высокого уровня“ (Министерство обороны Великобритании, “Подход СК к беспилотным летательным системам“, 2011). Как правило, в вооруженных силах и в авиации беспилотные ЛА называют “дистанционно управляемые летательные аппараты“, чтобы подчеркнуть, что их полеты непосредственно управляются операторами-людьми.
“БАТ“ производства “Нортроп Грумман“ (ранее “КиллерБи“ производства “Рэйтон“) - средневысотный беспилотный летательный аппарат, способный работать на повышенной дальности с различными датчиками и полезной нагрузкой и, вероятно, как минимум, средствами радиоэлектронной борьбы. (Фото любезно предоставлено “Нортроп Грумман“ для “Вестника НАТО“)
Большинство людей, вероятно, понимает концепцию “автономных беспилотных аппаратов“ как что-то сложно устроенное, например, беспилотники, способные самостоятельно выбирать свой вариант действий (что, как правило, называется в военной терминологии “инициативой комплекса“ или “полной автоматизацией“). В программу таких беспилотников заложено большое число альтернативных ответов на различные проблемы, с которыми они могут столкнуться при выполнении задачи. Речь не идет о научной фантастике: данная технология по большей части разработана, хотя, насколько нам известно, не было введено в эксплуатацию ни одного утвержденного автономного беспилотного комплекса. Сдерживающим фактором является не технология, а скорее политическая воля к разработке или к тому, чтобы признаться в наличии столь тонкой с политической точки зрения технологии, которая позволила бы смертоносным аппаратам работать без прямого контроля со стороны людей.
Одна из самых больших трудностей при разработке и утверждении подобной технологии состоит в том, что крайне сложно создать удовлетворительные системы подтверждения соответствия, которые гарантировали бы безопасность технологии и ее способность функционировать, как люди. На практике создание столь сложно устроенных беспилотных аппаратов предполагает программирование невероятно большого числа комбинаций альтернативных вариантов действий, в силу чего невозможно проверять и испытывать их в той же мере, что и управляемые летательные аппараты. Некоторые также понимают автономность как “искусственный интеллект“, то есть, системы, которые обучаются и даже самостоятельно разрабатывают возможные варианты действий в ответ на новые проблемы. У нас нет информации о том, что мы приблизились к прорыву в данной технологии, но многие опасаются, что на самом-то деле мы можем быть близки к нему.
Автономные беспилотники, то есть, сверхсовременные летательные аппараты, в программы которых заложено бесчисленное множество определенных человеком вариантов действий, с тем чтобы справиться с возникающими проблемами, уже испытываются в ряде гражданских университетов и военных научно-исследовательских учреждений. Проводятся испытания “группировок беспилотников“ (беспилотников, которые идут следом и выполняют задачи, поставленные другими беспилотниками), которые, разумеется, полностью зависят от автоматизированной обработки информации. Также проводятся испытания автономных беспилотников, которые работают вместе с управляемыми летательными аппаратами, начиная с того, что называется (беспилотный) летательный аппарат “Loyal Wingman“ (“Верный ведомый“) в ВВС США, и заканчивая уже хорошо испытанным комплексом наблюдения за широким морским районом (BAMS), в состав которого входит патрульный самолет военно-морских сил “Посейдон - 8“ и беспилотный ЛА “Тритон“. Вместе с тем ведутся дальнейшие разработки беспилотных систем, запускаемых с управляемых летательных аппаратов для работы в автономном режиме или в качестве “приставки“ к “самолету-носителю“. Например, недавно прошли испытания нано-беспилотников “PERDIX“, в ходе которых 100 беспилотных аппаратов было сброшено с “самолета-носителя“ F-18. Работа таких беспилотников предполагает большую степень автономности. Большое число таких разработок и замыслов хорошо описывается, например, в американском документе по планированию USAF RPA Vector - Vision and Enabling Concepts 2013-2038, опубликованном в 2014 году, и имеются в широком наличии другие документы и даже видеоматериалы о подобных научно-исследовательских разработках. Перспективы автономной технологии, будь то беспилотные летательные аппараты, подводные аппараты или иные комплексы вооружений, явно открывают новые возможности перед вооруженными силами.
Видео пробного запуска с “самолета-носителя“ F-18 ВВС США
группировки из 100 беспилотников типа “Perdix“ и выполнения ими тестовых миссий
Что касается летательных аппаратов, как выяснилось, требуется большое время на обучение летчиков и операторов. Одно из значительных изменений, которое привнесет разработка автономных беспилотных ЛА, состоит в том, что в (скором) будущем вооруженные силы смогут наращивать значительную боевую мощь намного быстрее, чем в прошлом. Важно отметить - и многие это сделали, - что создавать инфраструктуру и обучать операторов, управляющих беспилотниками на земле, не дешевле и не проще, чем готовить летный состав. Тем не менее, когда операторы беспилотников подготовлены и созданы центры управления полетами, они смогут управлять большим числом беспилотных летательных аппаратов. Аналогичным образом существующие летательные аппараты с экипажем займут центральное место в местных боевых или разведывательных комплексах, расширенных за счет обслуживающих их беспилотных ЛА, например, для выполнения вспомогательных задач по постановке радиоэлектронных помех, в качестве систем доставки оружия или в качестве комплекса платформ с многочисленными датчиками. Преодолеть ограничения прошлого, когда один летчик управлял одним самолетом или одна команда одним беспилотным летательным аппаратом, и прийти к тому, чтобы один отряд мог управлять большим числом беспилотных ЛА, стало бы просто революцией.
Эти перспективы для новых высоко технологичных комплексов вооружений - и возникающие в связи с этим опасения - стали предметом проведенного нами исследования автономных летательных аппаратов и систем вооружения. Практически невозможно спрогнозировать, когда эти технологии получат широкое распространение: это будет зависеть от обстановки и потребностей государств. Однако эти технологии имеются в наличии, и идет работа по их доводке, и по нашему мнению, со сложными правовыми и этическими вопросами нужно разобраться, как можно раньше.
Юридические аспекты
- Применяются общие правила, но все не так просто
Автономные беспилотные ЛА, в случае их применения во время вооруженного конфликта, подпадают под действие общих принципов и норм права вооруженных конфликтов. С этой точки зрения, автономные беспилотники не отличаются от других видов оружия, комплексов или платформ вооружений. Как и все другие “средства ведения войны“, автономные беспилотники могут применяться только против законных целей (военные цели и комбатанты), и нападения не должны причинять чрезмерного побочного ущерба.
Боевой беспилотный летательный аппарат (ББПЛА) X-47B,
разработанный “Нортроп Грумман“ вместе с “ДАРПА“, обычно называют “полуавтономным“.
(Фото любезно предоставлено “Нортроп Грумман“ для “Вестника НАТО“)
Однако некоторые особые характеристики автономных беспилотных средств могут оказаться проблематичными в плане применения права вооруженных конфликтов. Автономные беспилотные ЛА, какое бы определение им не дали, будут способны действовать с определенной степенью самостоятельности во времени и пространстве. Это (потенциальное) отсутствие вмешательства со стороны человека в работу оружия или комплекса вооружений во время нанесения удара наталкивает на вопрос о том, когда и где законом требуется присутствие человека в цикле принятия решений. Прежде чем попытаться ответить на этот вопрос, надо подчеркнуть ряд аспектов юридических требований, предъявляемых к командирам при принятии решений о нанесении ударов.
- Законом требуется, чтобы разумный командир действовал добросовестно
Ряд юридических обязательств, применимых во время вооруженных конфликтов, составлены так, чтобы вписаться в “туман войны“. В некоторых из них содержатся гибкие формулировки, что дает военачальникам возможность по-своему трактовать их и решать, например, что является “военным преимуществом“ и насколько важно это преимущество в целом для нанесения удара. Более того, они должны сопоставить относительную значимость этого преимущество и ожидаемый побочный ущерб (принцип соразмерности).
Предоставляется возможность действовать по своему усмотрению, и вместе с тем ожидается, что командир действует добросовестно и оценивает военное преимущество (а также побочный ущерб) на основании имеющейся у него (нее) на тот момент информации. При принятии решений о нанесении ударов командиры, участвующие в планировании или осуществлении удара, должны предпринять “все осуществимые меры предосторожности“, чтобы “убедиться“, что удар не направлен на пользующееся защитой лицо или объект и не предполагается, что он нарушит принцип соразмерности. Каким образом данная самостоятельность стыкуется с использованием автономных беспилотных ЛА?
- В какой мере требуется участие человека?
Автономные беспилотники не способны размышлять, как люди. У них нет человеческого сознания. Пока что автономные беспилотники (или любые автономные системы) не могут заменить человека в рамках закона. Вышеизложенные требования предполагают присутствие человека в схеме принятия решений. В определенный момент при принятии решений о нанесении удара человек должен решать, по какому объекту наносить удар и насколько важна эта цель. Главный вопрос - насколько широк цикл принятия решений.
Разумеется, людям-операторам могут помогать в работе автономные аппараты (так же, как “автономные“ животные), для которых существуют временные и пространственные ограничения, но где требуемые ограничения? Как и с любым юридическим вопросом, касающимся ведения войны, отвечать на этот вопрос придется в зависимости от обстоятельств. Если речь идет о действиях в густо населенных районах (таких как городские районы), ограничения обязательно должны быть жестче, чем в менее густо населенных районах (таких как открытое море или подводное пространство). Но здесь, как и повсюду, дьявол кроется в деталях: при определенных обстоятельствах автономные системы оружия могут быть (законно) предоставлены самим себе и могут работать часами или днями, тогда как при иных обстоятельствах все автономные функции нужно полностью отключить и полностью полагаться на суждение - или ошибку - человека.
От права к этике
Необходимо также признать важность этики в обсуждении вопроса об автономных беспилотных ЛА. Соблюдение закона имеет центральное значение при выработке военных и политических решений, в том числе разработке и использовании автономных беспилотных систем. И хотя право и этика часто совпадают, могут возникнуть важные этические вопросы, особенно в случае новых военных технологий, которые не охвачены должным образом в действующем законодательстве. Иными словами, этические соображения могут дополнить закон, обозначив нормативные ориентиры в этой “серой зоне“. Они также могут быть важны, чтобы особо выделить ситуации, когда этические обязательства должны ставиться выше правовых обязательств в интересах должного политического управления.
- Автономные беспилотные системы с этической точки зрения
Тот факт что решения о жизни и смерти перепоручается принимать не людям, а машинам, постоянно вызывает беспокойство у противников автономных систем оружия. Самую большую тревогу вызывает то, что позволять машине “принимать решения“ о том, чтобы убивать людей, означает обесценивание человеческой жизни. С этой точки зрения, человеческая жизнь настолько ценна, что машина вообще не может принимать решений о том, чтобы прервать чью-то жизнь, то есть, в разработке и использовании автономных беспилотников есть что-то неумолимо безнравственное.
Может быть трудно утверждать, что автономные БПЛА смогут соответствовать критерию установления различия jus in bello в “традиции справедливой войны“. В “тумане войны“ даже людям-солдатам трудно судить о том, кто может быть законной целью. Существует опасение того, что если позволить автономным БПЛА делать подобное различие, это скорее всего приведет к жертвам среди гражданского населения и неприемлемому побочному ущербу. Даже если данные комплексы вооружений будут способны отличать комбатантов от некомбатантов, еще надо выяснить, сможет ли автономный беспилотник оценить, соразмерен ли удар или нет, то есть, причинит ли этот удар излишние страдания. И все же, помимо неопределенности в отношении технических возможностей, которыми будут обладать автономные БПЛА в будущем и которые позволят делать подобное различие, можно также утверждать, что если эти системы оружия не будут способны действовать с соблюдением требований jus in bello, то вряд ли они будут развернуты, по крайней мере в обстановке, где велик риск нанесения чрезмерного вреда гражданскому населению.
С другой стороны, можно также утверждать, что использование автономных беспилотных летательных аппаратов не только приемлемо с точки зрения морали, но даже более предпочтительно по моральным соображениям, чем солдаты-люди. Автономные БПЛА способны обрабатывать больший объем информации, поступающей с различных датчиков, чем солдаты-люди, и поэтому они могут принимать более точные решения. А поскольку здравомыслие машин не затуманено эмоциями, такими как страх или ярость, это могло бы снизить опасность военных преступлений, которые в противном случае были бы совершены солдатами-людьми.
С использованием автономных беспилотников можно было бы также улучшить некоторые аспекты гуманитарных миссий, что было бы полезно для гражданского населения, которому оказывается помощь, и снизило бы риск для солдат. Использование автономных систем для поисковых мероприятий в опасных районах или выполнения задач, сопряженных с большим риском, таких как обезвреживание взрывоопасных предметов или разминирование дома, устранит риск того, что солдаты-люди будут ранены или убиты.
“Тритон“: разрабатывается “Нортроп Грумман“ для ВМС США; часть программы наблюдения за широким морским районом (BAMS); современный комплекс, предназначенный для разведки, наблюдения и рекогносцировки, работает в режиме управления или автономно. (Фото любезно предоставлено “Нортроп Грумман“ для “Вестника НАТО“)
Но опять-таки, подобные разработки могут повлечь за собой последствия для критериев jus ad bellum “традиции справедливой войны“. Если ограничивать риск для солдат, вообще удалив их с поля боя, война может стать слишком “простым“, малозатратным делом техники, при котором не требуется каких-либо открытых или моральных обязательств.
Чего мы достигли и в каком направлении работать?
Сложно предсказать будущее, но технологический потенциал автономных беспилотных летательных аппаратов уже проходит испытания и развивается. В какой мере они станут важной военной технологией, зависит от потребностей стран, которые в свою очередь будут определены будущими условиями безопасности. Лучше разработать правовые и этические рамки до того, как возникнет такая ситуация.
Очевидно, что в связи с автономными беспилотными летательными аппаратами возникают важные юридические и этические вопросы об ответственности за неумышленный урон. С появлением технологий образуются лакуны в плане моральной ответственности. При развертывании автономных военных систем становится менее понятно, каким образом распределять ответственность. И такие потенциальные лакуны в ответственности нужно должным образом восполнять с помощью технических решений и правовых норм. Поэтому НАТО и страны Североатлантического союза должны участвовать в международном обсуждении этих тем. В то же время технологическая эволюция будет продолжаться, и автономный беспилотник, каким бы технологически сложным он ни был, остается продуктом, инструментом в руках человека. Возложенную на нас фундаментальную ответственность за войны и за то, как они ведутся, нельзя по нравственным соображениям “передать на внешний подряд“, тем более машинам.
Полковник (д-р наук) Гьерт Лаге Диндал,
сотрудник группы стратегического анализа НАТО,
бывший ректор Академии ВВС Норвегии
Подполковник (д-р наук) Тор Арне Бернцен,
Норвежский оборонный университет
Адъюнкт-профессор Сигрид Редсе-Йохансен
Норвежский оборонный университет
Статья подготовлена на основе совместного исследования авторов и их недавно опубликованной книги “Nr dronene vkner: Autonome vpensystemer og robotisering av krig“ (Oslo; CappelenDamm, 2016)
Материал опубликован изданием “Вестник НАТО“ и перепечатывается ведома и разрешения его редакции в официальном переводе.