Кому жить — решат машины. ООН хочет запретить оружие с автономным действием

Боевые системы все ближе к возможности самостоятельно выбирать человека в качестве цели. ООН и Международный комитет Красного Креста (МККК) призывают правительства срочно установить обязательные ограничения, пока технологии не опередили международные правила.

Совместное обращение генерального секретаря ООН Антониу Гутерриша и президента МККК Мирьяны Сполярич опубликовано накануне очередного раунда международных переговоров. По их оценке, за три года, прошедшие после предыдущего обращения, военные технологии развивались значительно быстрее, чем международное законодательство. В результате разрыв между возможностями оружия и существующими ограничениями увеличился.

Речь идет о системах, способных самостоятельно обнаруживать, выбирать и поражать цели с минимальным вмешательством человека. Автономность может использоваться в разных видах вооружений, однако наибольшую тревогу вызывает возможность передачи машине решений, непосредственно связанных с жизнью и смертью людей.

Гутерриш и Сполярич считают, что такая перспектива создает не только гуманитарную, но и юридическую проблему: если оружие самостоятельно принимает решение об атаке, становится сложнее установить, кто должен отвечать за ошибку или нарушение международного гуманитарного права. Особенно опасной ситуация становится при применении таких систем в районах с гражданским населением и инфраструктурой.

Дроны с русофобским интеллектом. Украина разрабатывает новое оружие Подробнее

Уже не фантастика

Авторы обращения подчеркивают: речь идет совсем о недалеком будущем. Гонка за создание оружия с более высокой степенью автономности уже идет вовсю. При этом тревогу выражают ученые и инженеры, участвующие в разработке подобных технологий.

В ООН и МККК считают, что человеческий контроль должен сохраняться там, где принимаются решения о применении силы. При этом необходимо определить не только технические требования, но и четкие пределы допустимого использования автономных систем. Вопрос касается и условий применения уже существующих технологий.

Грядёт Skynet? Google собралась использовать ИИ для создания оружия Подробнее

Что хотят запретить

Международные дискуссии по этой теме ведутся в Генеральной Ассамблее ООН и в рамках Группы правительственных экспертов Конвенции о конкретных видах обычного оружия. За последние годы государства добились определенного прогресса в обсуждении требований к человеческому контролю и мер, необходимых для соблюдения международного гуманитарного права. Однако теперь руководители ООН и МККК предлагают перейти от обсуждений к переговорам о юридически обязательном документе. Он должен установить четкие запреты и ограничения для автономных систем вооружений.

Следующая возможность для этого появится в ноябре на 7-ой Конференции по рассмотрению действия Конвенции о конкретных видах обычного оружия. В ООН рассчитывают, что государства используют встречу для решения вопроса о начале официальных переговоров.

Гутерриш и Сполярич настаивают на необходимости действовать до того, как распространение таких систем выйдет из-под контроля. По их оценке, промедление может привести к ситуации, когда установить эффективные ограничения станет значительно сложнее, а ответственность за решения машин — еще менее определенной.

Проще говоря, в ООН и МККК бьют тревогу: автономные боевые системы стремительно развиваются, далеко опережая международное право. А передача машинам решений о жизни и смерти порождает правовую неопределённость и гуманитарные риски. Организации призывают начать переговоры о юридически обязывающем документе с запретами и ограничениями, пока технологический хаос не сделал контроль невозможным. Ключевая цель — сохранить человеческий контроль над применением силы.