Нейросети выдают ошибочные или выдуманные ответы на запросы пользователей под нескольких факторов, заявил в интервью «360» рассказал эксперт в сфере искусственного интеллекта и управления знаниями Владимир Лещенко.
В частности, неверные ответы нейросетей связаны с данными, на которых они обучались, рассказал он. По словам эксперта, если ошибка может быть допущена в какой-то информации, то ИИ будет считать, что дал верный ответ.
Кроме того, галлюцинации могут возникать из-за устройства самой нейросети и заложенного в нее способе обработки данных. Также на ее ответ может влиять изменение формулировки пользователя в запросе.
«Галлюцинации возникают исходя из недостаточности данных, и модель начинает креативить», - рассказал Лещенко.
Ранее сообщалось, что OpenAI приостановила обучение своих наиболее мощных моделей ИИ после выявления случаев нежелательного поведения.
Напомним, американский миллиардер Илон Маск заявил, что развитие ИИ и робототехники откроют эпоху «всеобщего высокого дохода», когда дефицит товаров практически исчезнет, а денег будет достаточно для удовлетворения базовых потребностей.
Подписывайтесь на АиФ в  MAX
|
Путин заявил о недопустимости разделения общества на фоне развития ИИ 
«Яблоко» с изъяном. Стив Джобс обещал свободу, но создал условия для слежки 
Илон Маск призвал называть ИИ суперинтеллектом, как распорядился Трамп 
Вэнс сравнил ажиотаж вокруг ИИ с пандемией COVID-19 
