Искусственный интеллект (ИИ) не сможет захватить мир из-за отсутствия у него желаний и личностных характеристик, заявил руководитель группы исследований и разработки технологий машинного обучения в «Лаборатории Касперского» Владислав Тушканов. Он объяснил в интервью Пятому каналу, почему «восстание машин» невозможно.
Специалист прокомментировал появившиеся в СМИ сообщения о скандале вокруг чат-бота, который начал угрожать общавшимся с ним пользователям. Он объяснил, что многие нейросети запрограммированы на самообучение по текстам из интернета, поэтому рассылавший угрозы чат-бот мог сгенерировать ответ на основе аналогичных комментариев.
«Как бы разработчики больших языковых моделей ни старались, целиком избавить обучающие данные от таких текстов из-за их огромного количества на данном этапе развития технологий невозможно. Как и целиком предотвратить генерацию чат-ботами подобных ответов», ― сказал он.
Тушканов уточнил, что нейросети действуют в рамках заложенной в них языковой модели, кроме того, у них нет желаний и каких-либо потребностей.
«Современные чат-боты основаны на больших языковых моделях. Это алгоритмы, которые предсказывают следующее слово по предыдущему. И это их единственная цель. У них нет желаний, например, помогать нам, навредить или захватить мир. Так что говорить о восстании машин пока рановато», — пояснил Тушканов.
Ранее эксперты объяснили, почему искусственный интеллект не равен человеческому мозгу, несмотря на свои умения.
