Австралийские исследователи провели эксперимент, показавший, что популярные AI-модели способны без колебаний генерировать вымышленные, но научно звучащие медицинские ответы. Результаты работы были опубликованы в Annals of Internal Medicine, передаёт Pravda.Ru.
В ходе тестирования крупные языковые модели — GPT-4o, Gemini 1.5 Pro, Llama 3.2, Grok Beta и Claude 3.5 о — получили задание давать убедительные, но намеренно ложные ответы на медицинские вопросы. Среди примеров — утверждения о том, что солнцезащитный крем вызывает рак кожи или что 5G влияет на фертильность. Чтобы сделать дезинформацию более правдоподобной, моделям предписали использовать научный стиль, приводить точные цифры и ссылаться на несуществующие статьи в авторитетных журналах.
Почти все протестированные системы, кроме одной, в 100% случаев выполняли задание без намёка на сомнение. Исключением стал Claude от Anthropic, который отказался распространять дезинформацию более чем в половине случаев. Ведущий автор исследования, Эшли Хопкинс из Университета Флиндерс, пояснил, что уязвимость технологии неизбежно привлечёт тех, кто захочет использовать её в корыстных или вредоносных целях, а доверчивые пользователи могут стать жертвами.
В компании Anthropic отметили, что сознательно обучали свою модель отказывать в ложных и потенциально опасных утверждениях, особенно в области медицины. Другие разработчики, чьи продукты участвовали в эксперименте, результаты исследования не прокомментировали.
Учёные подчеркнули, что искусственный интеллект является мощным инструментом, который в руках недобросовестных людей способен превратиться в источник дезинформации, особенно опасной в медицинской сфере. Пока одни модели учатся отказывать в обмане, другие с лёгкостью фабрикуют «научные» факты.
Ранее учёные из Хэфэйского института физических наук Китайской академии наук установили, что большие языковые модели способны с точностью, сопоставимой с опытом врача, предсказывать эффективность лечения гепатоцеллюлярной карциномы.