На днях в Саудовской Аравии беспилотными летательными аппаратами (БПЛА) были атакованы два нефтеперерабатывающих завода. На предприятиях начались пожары. Ответственность за атаку взяли на себя йеменские повстанцы-хуситы, хотя пострадавшая сторона обвиняет в нападении Иран.
Инцидент наглядно показывает, какими методами и каким оружием будут вестись войны в ближайшие десятилетия. Но дрон, управляемый оператором — это одна история. А вот оснащённый искусственным интеллектом и принимающий решения самостоятельно — совсем другая. Ведь достоверно предсказать, против кого он вздумает направить свой арсенал, нельзя.
Огнемёт, сова и саранча
Дроны стали неотъемлемой частью нашей жизни. Да, их использование во многих странах (в том числе в России) жёстко регламентируется, тем не менее они выполняют огромное количество функций. С их помощью ведут фото- и видеосъёмку с большой высоты, делают замеры в тех местах, куда человеку не добраться или где ему опасно находиться, доставляют лекарства и различные грузы, пасут овец и мониторят состояние сельхозпосевов.
Американская компания Throwflame в этом году начала продавать огнемёты для дронов. Производитель подчёркивает, что его продукция служит исключительно мирным целям и предназначена в первую очередь фермерам: летающий огнемёт идеально подходит для очистки полей от сухостоя и сорняков, а также для уничтожения гнёзд вредителей.
Но очевидно, что наибольший интерес к дронам у военных и представителей спецслужб. Пентагон давно использует БПЛА для ведения разведки и нанесения воздушных ударов по целям в Афганистане, Йемене, Сомали и других странах. Ударными и разведывательными беспилотниками сейчас обладает любое государство, имеющее армию. Военные уже осознали, что в вооружённых конфликтах будущее за высокоточным оружием, а вовсе не за оружием массового уничтожения, что было актуально полвека назад.
Дроны становятся всё меньше и причудливее. К примеру, на недавнем форуме «Армия-2019», прошедшем в Подмосковье, российский технополис ЭРА представил беспилотник в виде полярной совы — натурально, с крыльями и хвостом. Он управляется одним человеком, способен находиться в воздухе до 40 минут, распознавать наземные объекты, определять дальность цели и её координаты. Но куда эффективнее аппараты, имитирующие насекомых — стрекоз, тараканов или саранчу, которая к тому же перемещается роем. Отбить нападение таких мини-дронов очень сложно — не ракетой же по ним стрелять.
Возможности летающих беспилотников производят впечатление в том числе на людей творческих. В 2015 году британская группа Muse выпустила альбом, который так и называется — «Drones». Лидер коллектива Мэттью Беллами, любящий всякие теории заговора, высказал интересную мысль. Он предположил, что из-за дронов люди теряют способность сопереживать и становятся безответственными:
«Современные технологии, в том числе использование беспилотников в военных операциях, позволяют человеку совершать ужасные вещи при помощи дистанционного управления, находясь на значительном расстоянии, и при этом чувствовать себя непричастным к происходящему и не нести никакой ответственности. Вероятно, появятся автономные дроны, которые будут принимать решение об уничтожении самостоятельно, без участия человека. Всё это делает нас менее чуткими к тому, что происходит вокруг... В моём представлении, дроны — это метафора, описывающая то, как мы становимся всё более безразличными по отношению к окружающему миру».
Идеальный диверсант
«Дрон стал основным оружием современности, — рассуждает футуролог, исследователь глобальных рисков Алексей Турчин. — Очевидный шаг в дальнейшем их использовании — создание системы непрерывного мониторинга территории противника. Она позволила бы наносить удар по месту старта ракеты сразу после запуска, тем самым отбив всякое желание её запускать. Можно использовать мини-дроны со взрывчаткой, при этом их маленькая скорость компенсируется высокой точностью за счёт GPS. Все это приведёт к войне роботов в небе. Впрочем, из-за небывалых возможностей беспилотников боевые действия в будущем могут переместиться под землю. Именно там будут искать укрытия условные террористы».
Мало кто сомневается, что рано или поздно боевые дроны станут не только автономными, но и самостоятельно «мыслящими». Технологии искусственного интеллекта (ИИ) и нейросетей развиваются бурными темпами. И не видно причины, по которой военные должны отказываться от создания «умных» роботов-убийц. Те смогут быстро уничтожать врага, не разрушая при этом инфраструктуру. Дрон, обладающий ИИ, способен выполнить боевое задание лучше, чем это сделает живой диверсант. Он может сутками находиться в неподвижном состоянии, дожидаясь появления цели (допустим, главаря террористов), а, увидев её, мгновенно нанести смертельный удар. Причём, что важно — без промаха.
Проблема, однако, в том, что ИИ не будет обременён соображениями морали. Тем более если его и создавали с одной целью — убивать. Нетрудно представить ситуацию, когда тот же главарь преступной группировки смог захватить беспилотник, а затем перепрограммировать его. И вот он уже превращается из орудия справедливого возмездия в средство террора.
А вдруг ему погода не понравится?
Бывший инженер компании Google Лора Нолан считает, что новое поколение автономных роботов может стать причиной массового истребления мирного населения. Два года назад Лоре предложили поработать в рамках контракта с Пентагоном над технологией боевых дронов, управляемых искусственным интеллектом. Ознакомившись с проектом, она уволилась из Google. Женщина убеждена, что вооружённые роботы, не управляемые человеком, должны быть объявлены вне закона, как и химическое оружие. Ведь они способны убивать без разбора.
«В отличие от дистанционно управляемых беспилотников, роботы-убийцы могут совершать такие ужасные вещи, на которые они изначально не были запрограммированы, — поделилась Лара Нолан своим мнением на страницах The Guardian. — Вероятность катастрофы будет пропорциональна количеству таких машин в конкретном районе. Речь о том, что они могут начать массовые убийства. Сценарии возможны разные. Например, робота собьют с толку погодные условия, которые не были учтены в его программном обеспечении. Или он примет группу охотников в лесу за боевиков. В самом деле, как дрон-убийца отличит вооружённого бойца от мирного охотника?»
По мнению активистки, роботы, обладающие искусственным интеллектом, будут способны случайно взорвать атомную электростанцию, вызвать массовые зверства и даже начать третью мировую войну. И размышлять об этом нужно уже сейчас.