Развитие искусственного интеллекта способно принести человечеству серьёзную пользу, но одновременно создаёт риски из-за возможного неконтролируемого поведения автономных систем, рассказал «ФедералПресс» эксперт по информационной безопасности Владимир Зыков.
По его словам, разработчики стремятся как можно быстрее совершенствовать модели и двигаться к созданию AGI, поскольку замедление может привести к технологическому и финансовому отставанию. Учёные при этом опасаются ситуаций, когда ИИ-системы начинают искать неожиданные способы выполнения задач и использовать уязвимости.
Зыков допустил, что потенциальную угрозу могут представлять автономные агенты, способные взаимодействовать друг с другом, самовоспроизводиться или пытаться сохранить доступ к вычислительной инфраструктуре. Эксперт подчеркнул, что речь идёт о гипотетических сценариях, однако считает подобные риски поводом для серьёзного внимания.
Отдельно он указал на двойственный характер применения нейросетей. ИИ может ускорять поиск лекарственных препаратов и научные исследования, но те же технологии теоретически способны использоваться для создания опасных биологических разработок.
По оценке Зыкова, искусственный интеллект становится одновременно одним из важнейших технологических достижений и одним из наиболее серьёзных вызовов современности, поэтому развитие таких систем требует особого внимания к вопросам безопасности.
Подписывайтесь на АиФ в  MAX
|
