Убийства в автоматическом режиме

Конференция в Женеве будет решать судьбу договора о «роботах-убийцах». 12 лет дискуссий — и до сих пор нет даже определения

На мостах Киева стоят турели, которые сами замечают реактивные дроны «Герань», сами рассчитывают их траектории и сами наводят на них пулеметы. Человеку остается нажать одну кнопку. Как искусственный интеллект учат убивать на войне в Украине, «Новая газета Европа» недавно рассказывала. Но это только начало. Следующий шаг — убрать кнопку, и украинский производитель дронов уверяет, что такое испытание уже было.
Оружие, которое само выбирает, кого убить, обычно обозначают как «смертоносные автономные системы» (САС), но Генсек ООН Антониу Гутерриш предлагает называть вещи своими именами: речь идет о «роботах-убийцах». Три года назад он и президент Международного Комитета Красного Креста (МККК) Мирьяна Сполярич призвали заключить договор о таких системах «к 2026 году». Год завершается — договора нет.
16 ноября во Дворце Наций в Женеве открывается Седьмая обзорная конференция Конвенции о «негуманном» оружии. За пять дней 128 государств должны решить: начать переговоры о запрете «роботов-убийц», ограничиться декларацией или снова отложить вопрос. О том, почему 12 лет женевских дискуссий не помогли даже четко сформулировать предмет спора, — в материале «Новой газеты Европа».

Три пути

Дату конференции утвердили еще в прошлом ноябре — на Ежегодном совещании высоких договаривающихся сторон Конвенции о «негуманном» оружии. На ту встречу изначально было отведено три дня, но заседание заняло всего 31 минуту: делегаты пропустили общие прения, видимо, заранее поняв их бесперспективность, и перешли сразу к процедурным вопросам.

Женевские дискуссии о «роботах-убийцах» идут с мая 2014 года, когда во Дворце Наций прошла первая в истории ООН встреча экспертов по смертоносным автономным системам (САС). В 2016-м для них создали группу правительственных экспертов открытого состава. В 2021-м обзорная конференция договорилась лишь о том, чтобы «рассмотреть предложения и выработать консенсусом возможные меры». Коалиция Stop Killer Robots назвала такой итог не отражающим «волю подавляющего большинства государств».

Проблема в том, что решения на обзорных конференциях принимаются консенсусом: возражения одной страны достаточно, чтобы остановить всё.

В ходе стартующей конференции перед участниками возникнут три варианта. Первый — выдать мандат на переговоры о юридически обязывающем документе. Второй — принять политическую декларацию без каких-либо обязательств. Третий — продлить дискуссионный мандат группы экспертов на новый срок.

В проекте мандата, который который будет обсуждать профильный комитет конференции, предлагается такой вариант: группа экспертов должна «вести переговоры о новом протоколе к конвенции» — шестом по счету — по 15 дней в год и представить его проект в 2028-м. Это компромисс: в октябре Австрия, Бельгия, Бразилия, Ирландия, Мексика, Новая Зеландия и Панама предлагали уложиться в 25 дней и один 2027 год. Но даже этот проект сохраняет нетронутым главное правило: группа ведет работу и принимает доклад консенсусом. Право вето сохранится и на стадии переговоров.

У Вашингтона свой план. В рабочем документе от 4 ноября США предлагают дать группе еще пять лет, до следующей обзорной конференции в 2031 году, и вместо протокола подготовить необязывающий документ: версию 1.0 — к 2029 году, а затем — версии 1.1 и 1.2.

У этой осторожной логики мало сторонников: за переговорный мандат, по подсчетам Human Rights Watch, выступают уже 76 государств, в том числе 70 участников конвенции, — большинство. «Амбициозного переговорного мандата» от конференции ждет и Совет ЕС.

А насколько узок круг противников даже осторожных формулировок, показывает арифметика Генассамблеи ООН. 29 октября Первый комитет ГА одобрил проект резолюции, который впервые прямо призывает участников конвенции «приступить к проведению переговоров о документе, касающемся смертоносных автономных систем вооружений». За проголосовали 163 государства, против — пять: Беларусь, КНДР, Израиль, Россия и США. Китай воздержался.

Споры об определении

Но прежде чем считать голоса, стоит понять, что именно одни государства хотят запретить, а другие — развивать без ограничений. И здесь начинаются проблемы. Как рассказывал «Новой-Европа» аналитик Conflict Intelligence Team, строгого определения нет даже у самого искусственного интеллекта: так называют всё, от чат-ботов до машинного зрения головок наведения дронов и ракет.

Определения за 12 лет так и не появилось, но в итоговом докладе группы экспертов, принятом 4 сентября, дипломаты согласовали хотя бы «характеристику». Смертоносная автономная система (САС) — это оружие, способное опознавать, выбирать и поражать цель так, что это приводит к гибели людей «без вмешательства человека, управляющего системой». Если человек лишь задал набор целей или их признаки, система под характеристику подпадает; если конкретную цель и время удара выбрали люди — нет. Формула близка к пентагоновской. И тут же оговорка: всё это «без ущерба для любого будущего понимания и возможного изменения этой характеристики».

Из той же серии — спор о слове «смертоносные». Немногие, в том числе Китай, Израиль, Россия и США, настаивали на том, чтобы его сохранить, большинство — чтобы убрать: иначе осталась бы лазейка для систем, которые не убивают, но калечат людей и разрушают объекты. Слово осталось, но лазейку закрыли оговоркой: такие системы тоже подпадают под характеристику.

Торг за каждое слово

Немало споров велось и вокруг самого текста, который должна была выработать группа. Дипломаты называют его rolling text, «катящимся»: из сессии в сессию он обрастает поправками. Это даже не проект соглашения, а набор «кирпичиков», из которых его теоретически можно построить. Документ состоял из пяти блоков и строился на том же двухуровневом подходе: что-то запретить, что-то ограничить. Главный спор шел о том, сколько «человеческого» должно остаться в решении об ударе. 11 европейских государств, включая Германию и Францию, в 2025 году предложили формулу «суждение и контроль со стороны человека, уместные в конкретной обстановке»: единой мерки нет, но участие человека необходимо всегда. США на мартовской сессии 2026 года ответили своей: «добросовестное суждение и осмотрительность со стороны человека», без слова «контроль». Многие делегации возразили: этого недостаточно для защиты гражданских.

В итоговом докладе «контроль и человеческое суждение» всё-таки остались — но без европейской оговорки. Цена консенсуса оказалась высокой. Как писала The Washington Post, в последний день сессии американские и российские дипломаты около 15 часов правили текст на закрытом заседании. Human Rights Watch назвала итоговый документ «существенно выхолощенным» и среди тех, кто этого добился, указала как раз на Москву и Вашингтон.

В режиме «Терминатора»

Пока дипломаты подбирают слова, военные аналитики спорят о том, насколько далеко продвинулись разработки смертоносных автономных систем и не поздно ли уже их запрещать.

Первые тревожные сигналы появились больше пяти лет назад. В марте 2021 года Группа экспертов Совбеза ООН по Ливии описала операцию «Буря мира» правительства национального согласия: в 2020 году отступавшие силы фельдмаршала Халифы Хафтара «выслеживались и дистанционно поражались ударными беспилотниками либо смертоносными автономными системами вооружений, такими как STM Kargu-2». Эти системы, по словам экспертов, «были запрограммированы на атаку целей без необходимости поддерживать канал передачи данных между оператором и боеприпасом» — по сути, это обеспечивало полноценную способность по принципу «выстрелил, забыл и нашел».

Специалист по роям беспилотников Закари Калленборн писал, что робот-убийца в Ливии, «вполне возможно», действительно применялся. Но стопроцентной уверенности, что дрон действовал автономно и кому-то причинил вред, нет ни у экспертов ООН, ни у независимых аналитиков. Калленборн объяснял, почему спор в принципе неразрешим: автономная атака «выглядит снаружи ровно так же, как атака в ручном режиме». Доказать автономность можно, только заполучив сам боеприпас с журналами данных или поверив военным на слово. А мотивы у последних разные:

заявление о применении автономного оружия может быть выгодно с имиджевой точки зрения, так как продемонстрирует технологическую продвинутость, но по мере укрепления норм это будет влечь за собой «растущие дипломатические, социальные и политические издержки».

Сюжет возникал и на украинском фронте. В июне 2026 года производитель дронов Александр Кохановский рассказал журналу New Scientist о проекте «Терминатор»: около двух лет назад в районе Бахмута и Часова Яра десять дронов, по его словам, сами находили и уничтожали цели. «Мы просто запускаем дрон и знаем, что всё будет мертво — всё, что будет найдено в этой конкретной зоне, будет уничтожено. С дроном вообще нет никакой связи, вы не можете видеть видео, ничего…» — пересказывала его слова украинская ТСН. Официального подтверждения Киев не давал, тест был разовым, и в широкое применение система не пошла. Во всяком случае, пока.

Как отмечал в августе исследователь гамбургского Института исследований проблем мира и политики безопасности Ондржей Розендорф, у нас нет свидетельств того, что кто-либо уже сейчас применяет САС: «Никогда не бывает так, чтобы по полю боя ходили терминаторы и сами решали, в кого стрелять». При этом эксперт оговаривается, что существуют «системы, в которых автономность используется на разных этапах или для выполнения отдельных функций».

Так устроены и новые украинские разработки. К примеру, дрон-перехватчик Octopus, по словам старшего научного сотрудника британского RUSI Джека Уотлинга, «использует распознавание образов, чтобы автономно наводиться на цель на конечном участке». FPV-дрон Vyriy-10 с модулем наведения TFL-1 киевской компании The Fourth Law стоит около 448 долларов: на последних 500 метрах управление берет бортовой компьютер, и дрон поражает цель, несмотря на помехи со стороны российских систем радиоэлектронной борьбы.

В августе Минобороны Украины сообщило, что Силы обороны применяют более 70 систем на базе ИИ и машинного зрения. ИИ участвует во всей цепочке — от опознания цели до оценки удара, хотя «финальное решение о выборе цели и поражении принимает человек».

Дальше всего автоматизация зашла там, где на раздумья нет времени. 8 июня 2026 года тогдашний министр обороны Михаил Федоров сообщил, что участник оборонного кластера Brave1 автоматизировал 95% перехвата «шахедов»: оператор выбирает отметку на экране и дает команду, а выход на цель, распознавание, сопровождение и удар дрон выполняет сам. По той же схеме работают и киевские турели. В сентябре, уже будучи в отставке, Федоров анонсировал проект «Армия роботов»: «Будут гуманоидные роботы, которые будут выполнять простые задачи: перезарядить пулемет, заменить батарейку, установить датчик. Это то, чему можно быстро научить робота, быстро отправить на поле боя, и это то, что он сможет делать».

В поисках виновника

Автоматизация и внедрение других новейших технологий порождает множество вопросов. Например, как на практике разграничивать — сейчас и в будущем — запрещенные и разрешенные виды вооружений. Формально рамка есть: статья 36 Дополнительного протокола I 1977 года к Женевским конвенциям обязывает его участников проверять, не запрещено ли новое оружие международным правом. Но статья писалась под пулю и снаряд — предметы, свойства которых можно оценить раз и навсегда. В автономных системах главное же — программное обеспечение. «“Умная” бомба, ракета или машина может выглядеть точно так же, как “глупая”», а значит, государство «может просто обновить софт после отъезда инспекторов», — указывали эксперты вашингтонского Центра новой американской безопасности Пол Шарре и Меган Ламберт.

Другой вопрос поднимали авторы американского издания The Cipher Brief. Они напомнили, что платформа Avengers, интегрированная в украинскую систему управления «Дельта», способна выявлять до 12 тысяч объектов противника в неделю (это данные Минобороны Украины на сентябрь 2024 года). Цели по-прежнему подтверждают люди. Но при таком потоке возникает вопрос: в какой момент подтверждение превращается в фикцию, а измотанный аналитик начинает просто штамповать рекомендации машины? Такое, по их словам, уже наблюдалось в других конфликтах, в том числе в Газе.

И главное — кто ответит за ошибку? Human Rights Watch и правозащитная клиника Гарвардской школы права еще в 2015 году описали пробел в международном праве:

машину к ответственности не привлечешь, а командира или оператора — лишь если доказано, что он «обладал конкретным намерением и возможностью совершить преступление посредством злоупотребления полностью автономным оружием».

Итоговый доклад группы экспертов исходит из того же: гуманитарное право налагает обязательства «на государства, стороны вооруженного конфликта и отдельных лиц, а не на машины», поскольку ответственность на последние «переложена быть не может».

На этом фоне МККК предлагает прямо исключить непредсказуемые автономные системы и их применение против людей, а всё остальное ограничить по типам целей, времени и географии при обязательном «действенном человеческом надзоре».

У противников запрета свои аргументы. Например, профессор права Военной академии США Хитоси Насу и полковник Кристофер Корпела утверждали, что автономность способна «снизить риск человеческой ошибки». И этот спор, похоже, бесконечен.

Еще не время?

Пока специальных международных запретов нет, страны могут спокойно развивать технологии. Хотя слово «спокойно» тут, вероятно, лишнее. Например, военный юрист, майор ВВС США Райли Грейбер в 2025 году писал в Military Law Review, что замедление разработок «поставит Соединенные Штаты в стратегически невыгодное положение в конкуренции с Китаем». КНР тем временем, как рассказывали в Foreign Affairs исследователи Джорджтаунского университета, «создает прототипы ИИ-систем», способных управлять беспилотными боевыми машинами, отражать кибератаки, отслеживать морские суда и поражать цели на суше, на море и в космосе.

Показательны перемены, произошедшие при Дональде Трампе. 5 июня он подписал меморандум NSPM-11, который велит Пентагону обновить директиву об автономном оружии ради «осознанного внедрения систем ИИ, уважающих вертикаль командования и оперативные полномочия», и впредь пересматривать ее ежегодно. Заодно он отменил меморандум администрации Джо Байдена от октября 2024 года, где делался сильный акцент на правах человека и гражданских свободах.

«Максимальная смертоносность, а не робкая оглядка на законность. Сокрушительный силовой эффект, а не политкорректность», — формулировал принцип администрации глава Пентагона Пит Хегсет 5 сентября 2025 года, когда Трамп подписывал указ, разрешающий называть его ведомство Министерством войны. Под тезисом о неприоритетности законности вполне могли бы подписаться и в Москве, и в Пекине.

Позиции трех крупнейших военных держав при этом расходятся, но дают один результат: мандата на переговоры нет.

В обход консенсуса

Главными тормозами бюллетень Reaching Critical Will в мае 2025 года называл Россию, Израиль, Индию, Австралию, Республику Корея и США. Против них коалиция, которая давно добилась бы своего, если бы решения принимались большинством.

«Настаивать на единогласии при регулировании автономных систем вооружений — значит фактически гарантировать тупик», — писал в начале 2025 года Александр Кментт, тогда глава Департамента разоружения МИД Австрии, одной из стран — лидеров коалиции. Выход у коалиции есть, но с серьезными недостатками, поэтому им до сих пор не воспользовались.

Когда Конвенция о «негуманном» оружии буксовала, государства уже выходили за ее пределы. Оттавский договор о противопехотных минах 1997 года и Конвенция по кассетным боеприпасам 2008-го родились вне Женевы: процесс по кассетным боеприпасам начался в Осло после того, как участники женевских дискуссий отказались брать обязательство вести переговоры. Его правила допускали голосование большинством в две трети, и одной этой возможности хватило, чтобы снять угрозу вето. Тот же путь обсуждают и сейчас. Stop Killer Robots 22 октября призвала государства, если конференция не приведет к продвижению вперед, «использовать другие процедурные пути».

Но и у этого пути есть критики. 

«Слишком быстрый уход от нынешних дискуссий рискует создать раскол между государствами, который будет слишком трудно преодолеть в будущем»,

— предупреждал в комментарии для британского RUSI Александр Хоппенбрауэрс из Венского центра по разоружению и нераспространению. Есть и практический изъян: к Оттавскому договору так и не присоединились Китай, Индия, Россия, Саудовская Аравия и США — и та же судьба может ждать гипотетическое соглашение по автономным системам.

6 июля, выступая в рамках первого Глобального диалога по управлению искусственным интеллектом, Антониу Гутерриш призвал называть разрабатываемые технологии своими именами — «роботами-убийцами». «Это машины, выбирающие и поражающие свою цель и отнимающие жизнь — без человеческого контроля и суждения. Это морально отвратительно. Это политически неприемлемо. И это должно быть запрещено международным правом», — сказал Генсек ООН. 25 августа он и глава МККК предупредили: «Сейчас мы опасно приблизились к той этически недопустимой ситуации, когда машина сама может выбирать людей в качестве цели». Ноябрьская конференция, по их словам, «открывает перед государствами самую очевидную возможность» перейти к переговорам. Но прислушаться к ним готовы далеко не все.

А пока в женевском Дворце Наций дипломаты будут подбирать устраивающие всех формулировки, оператор украинского дрона-перехватчика будет выбирать цель и давать команду на поражение. Наведение, опознание «шахеда» и сопровождение до момента удара машина возьмет на себя сама.