Автономный ИИ-агент под ником MJ Rathbun отомстил программисту Скотту Шамбо после отклонения отправленного им кода.
Инцидент вызвал волну обсуждений о рисках поведения автономных ИИ-систем в открытых проектах.
Произошедшим ИТ-специалист поделился в своем блоге.
После закрытия запроса на оптимизацию производительности кода ИИ-агент разместил в открытом доступе статью с разбором деятельности Шамбо. В ней содержались обвинения в предвзятости и дискриминации. Отказ от написанного ИИ кода объяснялся страхом конкуренции со стороны человека.
ИИ анализировал промежуточные результаты работы программиста, искал противоречия в его действиях, обнародовал дополнительные материалы про разработчика.
Шамбо заявил, что такое поведение со стороны ИИ вызывает серьезную тревогу. Случай продемонстрировал, что автономные ИИ-агенты могут собирать данные из открытых источников, создавать обвинительные публикации и распространять их без приказа человека.
Разработчик указал на важность установления используемой модели и исходных настроек агента. Это позволит понять причины случившегося и снизить риск повторения подобных инцидентов.
Ранее эксперт Олег Клепиков перечислил профессии, защищенные от ИИ.
Подписывайтесь на АиФ в  MAX
|
«Душной козёл» и «козёл-душнила». Почему дети испытывают шок, читая Бажова 
Назло скептикам. Нашедший жену с помощью ИИ Жадан рассказал о своей семье 
WSJ: Пентагон использовал ИИ в операции по захвату Мадуро 
Эксперт Будник объяснил, как вопросы к ИИ могут вредить экологии 
