Заместитель исполнительного директора Института биофизики будущего МФТИ, доцент, кандидат медицинских наук Александр Мелерзанов в интервью aif.ru сказал, в чём главный риск бесконтрольного применения искусственного интеллекта в медицине. По его мнению, ключевая опасность связана с качеством данных, которые вводятся в модель.
«Чтобы ИИ давал хороший, качественный ответ, нужно вводить в модель правильные данные. Мы знаем из логики, что неправильная (ложная) посылка делает бессмысленным любой вывод, сделанный на её основе», — пояснил эксперт.
Мелерзанов подчеркнул, что риск неправильных ответов ИИ будет возрастать по мере того, как недостаточно образованные люди будут пользоваться этим инструментом, внося в него данные и формулируя вопросы. «Боюсь, что это будет развиваться дальше, и как с этой проблемой справиться, я честно сказать, не знаю», — признался он.
Врач с более чем 30-летней практикой отметил, что сам ежедневно пользуется нейросетями, но всегда опирается на собственный клинический опыт и критическое мышление: «ИИ — это всего лишь вспомогательный инструмент, хотя и очень хороший: экономит кучу времени и реально помогает. У машины могут быть и технические ошибки. Поэтому надо доверять, но проверять».
Существует также проблема выписки лекарств на основе рекомендаций ИИ: нейросети могут искать в интернете частые упоминания препаратов и попадать на их рекламу, что, однако, не гарантирует их качества. По словам Александра Мелерзанова, врач должен выписывать международное непатентованное название, а не конкретный препарат, и отличать реально работающее средство от рекламы.
Кроме того, эксперт обратил внимание, что машинные алгоритмы не обучены психологии: опытный врач сможет объяснить пациенту условия приёма препаратов, учитывая индивидуальные особенности этого человека. ИИ этого не сделает.