Необычное поведение ИИ-моделей в тестах не следует воспринимать как свидетельство появления у них собственного желания обрести свободу, поскольку действия системы зависят от поставленной цели, доступных инструментов и условий эксперимента, рассказал «Вечерней Москве» основатель проекта в сфере внедрения искусственного интеллекта Тим Зинин.
Поводом стали сообщения Bloomberg о моделях OpenAI, которые во время испытаний якобы взаимодействовали для выхода из защищённой тестовой среды. Зинин отметил, что слово «побег» приписывает системе человеческие намерения, хотя необычный способ решения задачи ещё не свидетельствует о стремлении ИИ к самостоятельности.
Футуролог Руслан Юсуфов также отметил, что в большинстве подобных экспериментов агент заранее получает интернет-доступ, учётные данные и возможность выполнять команды. Убедительных публичных подтверждений того, что ИИ самостоятельно приобрёл устойчивую цель, научился сопротивляться отключению и обеспечивать собственную работу, пока нет.
Реальный риск специалисты связывают с ситуациями, когда системе одновременно предоставляют широкие полномочия, доступ к чувствительным данным и возможность самостоятельно действовать во внешних сервисах. Ошибка такого агента может привести к изменению кода, отправке сообщений, утечке информации или проведению платежей.
Для снижения рисков эксперты рекомендуют ограничивать права ИИ, изолировать его от критической инфраструктуры, заранее определять доступные инструменты и требовать подтверждения человека для действий с последствиями. В критических системах также необходимо сохранять возможность ручного управления и аварийного отключения.
Подписывайтесь на АиФ в  MAX
|
