В российских кинотеатрах стартовала картина «Бегущий по лезвию 2049»: продолжение культового фильма Ридли Скотта, снятого по мотивам знаменитого романа Филипа К. Дика. По сюжету репликанты — или человекоподобные роботы — выполняют вместо людей тяжелую и опасную работу. Это приводит их к бунту против создателей. Но главная мысль романа — это будущее, в котором роботы и искусственный интеллект в целом настолько развиты, что могут полноценно заменить человека. Развиты до степени смешения, и подчас искусственный интеллект оказывается более человечным, чем сам человек.
Тема момента, когда искусственный интеллект не только заменяет людей, но и начинает превосходить их, в конце концов пытаясь взять человечество под контроль, — одна из самых популярных в фантастике всех стран. Фантасты шестидесятых-семидесятых считали, что уже наше время (первые десятилетия XXI века) будет веком искусственного разума. Сейчас же прогноз и вовсе непонятен.
АиФ.ru поговорил с профессором факультета компьютерных наук НИУ ВШЭ, кандидатом физико-математических наук Дмитрием Ветровым, чтобы разобраться, действительно ли опасен искусственный интеллект и когда он придёт на смену людям.
Человек против робота
Фёдор Сердотецкий, АиФ.ru: Интеллектуальная робототехника доступна в наши дни даже детям в виде игрушек. Вероятно ли, что однажды появится Искусственный интеллект (далее ИИ), выполняющий творческие функции?
Дмитрий Ветров: Это происходит на наших глазах. Уже сейчас нейросетевые алгоритмы умеют рисовать картины, сочинять музыку и писать стихи. В ближайшем будущем их творческие способности будут только расти.
— Машина уже играла в шахматы с Гарри Каспаровым. И шахматист признал, что скоро обыграть компьютер будет невозможно...
— Алгоритм, обыгравший в шахматы Каспарова, не использовал ИИ (точнее, использовал, но на совсем зачаточном уровне). Его основой был перебор большого числа вариантов по фиксированному алгоритму, для чего ИИ не нужен. То есть человеческий мозг проиграл вычислительной мощности. А вот программа AlphaGo, обыгравшая в 2016 г. чемпиона мира Ли Седоля в го, уже была построена по совершенно другим принципам. Простой перебор всевозможных вариантов тут не помогает, т. к. их число на много порядков превышает возможности современной вычислительной техники. По каким именно принципам компьютер определяет, какой очередной ход сделать, с точки зрения человека совершенно неясно. Компьютер обучался не только по записям прошлых партий, но и проводя миллиарды партий сам с собой, получая тем самым уникальный набор обучающей информации, недоступный ни одному человеку. В ходе матча компьютер продемонстрировал очень нетривиальную комбинационную игру, которая и позволила ему в итоге обыграть лучшего игрока мира. Во многих областях, где можно получить неограниченные объёмы обучающей информации, технологии ИИ уже сейчас позволяют добиться результатов, превосходящих возможности человеческого мозга.
Кто в доме хозяин?
— Не станут ли люди лишними через несколько лет?
— Нет. Технологии ИИ призваны сделать жизнь людей лучше и удобнее. Они постепенно вытеснят людей из ряда профессий, которые сейчас считаются «интеллектуальными», но люди после этого смогут больше заниматься любимыми делами, максимально самореализовываясь и получая от жизни больше удовольствия. На смену вытесненным профессиям придут другие. Мы же не печалимся из-за того, что отмерла профессия кучера или трубочиста. Безработных от этого больше не стало.
Что же касается профессий, связанных с принятием стратегически важных решений, эта функция не будет делегирована ИИ ни при каких обстоятельствах (исключение — когда решение надо принимать за доли секунды и человек просто не в состоянии проанализировать весь объём доступной информации, но на государственном уровне такое сложно представить). ИИ будет использоваться как мудрый советник, но конечное решение по стратегическим вопросам всегда будет принимать человек.
— Возможно ли, что само государственное устройство поменяется в связи с появлением разумных машин?
— Люди никогда не доверят управление своим обществом никакому ИИ. Максимум, на что «может рассчитывать» ИИ, — это давать советы, по которым решения будут принимать люди. До тех пор, пока не будет решена проблема интерпретируемости современных нейронных сетей, компьютер не будет допущен ни до каких вопросов, связанных с разрешением споров между людьми или государствами. Уже сейчас принимаются активные попытки по законодательному ограничению использования неинтерпретируемых технологий ИИ в принятии решений, затрагивающих жизнь людей. В принципе, это даже разумно с общечеловеческой точки зрения, когда человек имеет право знать, почему в отношении него компьютер принял то или иное решение. Сейчас мы знаем, что во многих задачах (например, выдать или не выдать человеку кредит, выписать или не выписать штраф за превышение скорости, дать или не дать разрешение на въезд в страну и т. д.) компьютер практически всегда принимает решение верное, но не понимаем, как и на основе чего он это делает. Это одна из интереснейших и открытых пока проблем машинного обучения.
— Способен ли ИИ удариться в философию и глобально изменить мир?
— На существующем уровне развития технологий нет никаких признаков появления даже намёков на зачатки сознания у алгоритмов ИИ. Так что ответ на этот вопрос, к сожалению, отрицательный. Мы знаем, как построить искусственный интеллект (по крайней мере, в теории), но не имеем ни малейшего представления, как сделать так, чтобы в нём появилось сознание. Это будет просто ещё один инструмент, который будет за нас думать. Построение универсального ИИ общего назначения, конечно, будет огромным достижением для нашей цивилизации и откроет колоссальные перспективы, но старшего брата по разуму нам, к сожалению (или к счастью?), не создаст.
Перспективы робототехники
— Герой Джареда Лето в фильме «Бегущий по лезвию 2049» уверяет, что все цивилизации основаны на рабстве. Но будет ли гуманно использовать роботов с сознанием как рабочую силу?
— Конечно, мы будем их использовать как рабочую силу. Но категория гуманности тут применима не больше, чем к молотку, станку или смартфону. Пока у ИИ нет сознания, это просто инструмент. Термин рабство здесь можно использовать только метафорически. Разумеется, в фильме роботы сознанием обладают. И там можно ставить вопрос о гуманности по отношению к роботам. Увы, это пока красивая и трогательная сказка, не имеющая в ближайшем будущем шансов стать былью.
— Правильно ли считать развитие ИИ эволюцией самой жизни на земле?
— Пока мы создаём лишь инструмент — нет. Если вдруг когда-нибудь нам удастся создать искусственное сознание — да. Это будет следующим эволюционным шагом.
— Где искусственный интеллект может проявить себя уже в ближайшее время?
— Он себя уже активно проявляет. Всякий раз, когда вы пользуетесь машинным переводчиком, вводите поисковый запрос, получаете рекомендацию о том или ином товаре, строите маршрут в навигаторе, разблокируете свой новый iPhone с помощью технологии FaceID, вы используете технологии ИИ. Все перечисленные задачи уже давно не решаются по заранее заданным человеком алгоритмам. Компьютер выстраивает алгоритм сам на основе технологий машинного обучения. На подходе алгоритмы для генерации речи, машинного перевода, автопилотируемых автомобилей, персональных интеллектуальных помощников и многие другие.
Призрачная угроза
— А что, если сбудется предсказание фантастов: ИИ решит, что люди опасны для самих себя?
— Это довольно сложно себе представить, учитывая, что ИИ — это просто инструмент, не обладающий сознанием. Но, даже если решит, у него же всё равно не будет никаких рычагов, чтобы какие-то опасные для людей действия предпринять. Ни одну потенциально опасную технологию не доверят в управление ИИ без человеческого «надсмотрщика», за которым будет последнее слово. Другими словами, ИИ не может принести какой-то вред человеку иначе как будучи использованным другим человеком. И в этом смысле он представляет не больше опасности, чем молоток или ракета.
— Стивен Хокинг всерьёз заявлял, что ИИ способен стать бичом человечества, если люди потеряют над ним контроль. Это популистские высказывания?
— Нет, в них есть смысл. ИИ может стать опасным инструментом в руках людей или государств. В этом смысле он подобен технологии расщепления атома. Можно сделать атомный реактор, который принесёт человечеству огромную пользу, а можно сделать атомную бомбу, которая потенциально способна человечеству принести вред. Но человечество уже обладает всем необходимым для самоуничтожения, так что любые прорывы в области ИИ тут принципиально ничего не меняют. Сам по себе ИИ опасности не представляет.
— Есть ли гарантии, что ИИ не будет использован террористами?
— Технологии ИИ уже активно используются террористами, например, для организации хакерских атак. Впрочем, спецслужбы тоже не менее активно используют технологии ИИ для противодействия терроризму. Так что тут стандартная ситуация борьбы щита и меча. Никаких качественно новых рисков для человечества в условиях наличия оружия массового поражения использование технологий ИИ террористами не несёт.
— Вопрос, волнующий многих поклонников фантастики: будет ли восстание машин?
— Нет, это нам не грозит ни в какой обозримой перспективе.
СМИ: Google выпустил на волю искусственный интеллект 
Ферма c «умом». Как высокие технологии приходят в сельское хозяйство 
Физики научили искусственный интеллект создавать конденсат Бозе-Эйнштейна 
В Японии компьютер вышел в финал литературного конкурса 
