Математик Савватеев: страны не могут замедлить гонку ИИ

Теория игр помогает понять поведение государств, компаний и людей в ситуациях, где решения одной стороны напрямую влияют на выгоду другой. Об этом в беседе с KP.RU рассказал математик и популяризатор науки Алексей Савватеев.  

Эксперт пояснил, что математика позволяет разобрать структуру происходящего, но не гарантирует выигрыш в любой ситуации; главным преимуществом, по его словам, является понимание того, как устроены взаимодействия в обществе. 

Он рассказал, что первый класс задач теории игр связан с дилеммой заключённых, где обоюдная выгода достигается только при соблюдении договорённостей, однако каждый участник одновременно испытывает соблазн нарушить условия ради собственной прибыли. 

По просьбе объяснить это на наглядном примере Савватеев привёл типичную ситуацию: двоих задерживают по подозрению в совместном преступлении, но доказательств сговора нет. В этом случае каждому выгоднее признаться первым, поскольку возможные сценарии наказаний оказываются жёстче для тех, кто промолчит, если другой даст признание. Доминирующей стратегией в таком раскладе становится признание обоих, хотя самый благоприятный исход достигается при молчании. 

Он добавил, что подобный механизм работает и в реальной политике. Страны, понимая возможные риски стремительного развития искусственного интеллекта, видят необходимость ограничений, но каждая боится отстать в технологическом соревновании. В результате ни одна не готова остановить исследования первой, что повторяет логику дилеммы заключённых. 

Савватеев привёл пример британского аукциона 1999 года по распределению частот мобильного спектра. Он рассказал, что правила были построены так, чтобы снизить вероятность сговора крупных участников, и в итоге конкурс привёл к рекордным доходам для бюджета. 

Эксперт по информационной безопасности Алексей Горелкин в разговоре с «Москвой 24» сообщил, что к нейросети не следует передавать информацию, которую пользователь не готов видеть в открытом доступе. Он подчеркнул, что взаимодействие с алгоритмом следует рассматривать так же, как общение на публичных форумах. 

По мнению эксперта, рост обращений к нейросетям на медицинские и психологические темы связан с низким порогом входа: пользователям психологически проще задать вопрос безличному алгоритму, чем искать специалистов и обсуждать свои проблемы с людьми. 

Он также отметил, что увеличение числа психологических запросов представляет собой серьёзную проблему. По его наблюдениям, специалисты фиксируют рост числа разводов, когда люди советуются с ИИ вместо того, чтобы обращаться к психологам. Алгоритмы, пытаясь поддержать пользователя, часто односторонне подтверждают его точку зрения, создавая упрощённую картину конфликтной ситуации и представление партнёра исключительно виновным, хотя реальные отношения сложнее. 

Что касается медицинских запросов, Горелкин подчеркнул, что ИИ способен давать общие рекомендации и обращать внимание на определённые симптомы, чтобы пользователь затем сообщил о них врачу. При этом разработчики нейросетей понимают риски и внедряют дисклеймеры, напоминающие о том, что искусственный интеллект не заменяет квалифицированного специалиста. 

Ранее Россия и Китай обсудили военное использование искусственного интеллекта.