Что за мошенничество с использованием ChatGPT?

Интернет-мошенники в России начали использовать чат-бот с искусственным интеллектом ChatGPT для фишинга. Об этом сообщила РИА Новости управляющий директор «Лаборатории Касперского» в России и странах СНГ Анна Кулашова.

«Искусственный интеллект — это инструмент, и, как любой инструмент, он несет в себе как возможности, так и угрозы. И, конечно, он будет применяться со всех сторон, и в том числе мы уже видели атаки с использованием ChatGPT», — сказала Кулашова.

Напомним, ChatGPT — это чат-бот с искусственным интеллектом, разработанный американской компанией OpenAI. Он может вести диалог с пользователями, сочинять стихи и прозу, обрабатывать изображения и выполнять другие команды по их запросу. Разработчики обучили нейросеть с помощью большого количества текстов из интернета и общения с живыми пользователями. Быстрое развитие нейросети вызвало большое беспокойство общественности, в связи с чем весной 2023 года OpenAI поставил на паузу обучение новой модели нейросети — ChatGPT-5.

Как мошенники обманывают с помощью нейросетей? Подробнее

Фишинг (от англ. fishing — «рыбная ловля») — вид интернет-мошенничества, при котором злоумышленники рассылают пользователям письма от имени популярных брендов, банков и других сервисов и организаций. В сообщениях содержатся ссылки на поддельные сайты магазинов, банков, различных сервисов. При переходе по ним пользователя просят ввести свои логин и пароль, что позволяет злоумышленникам получить доступ к аккаунтам и банковским счетам жертвы. 

Как мошенники используют ChatGPT для фишинга?

Кулашова рассказала, что мошенники начали использовать чат-бот для составления более грамотных и внушающих доверие фишинговых писем. Искусственный интеллект помогает им подстраивать и перестраивать наборы слов. Если раньше отличить фишинговое сообщение можно было по ошибкам, то с применением ChatGPT их стало меньше. Но, как отметила эксперт, ChatGPT «пока все еще не очень умный» и не способен на более сложные операции. 

Также, по словам Кулашовой, искусственный интеллект могут использовать хакеры — для целевого фишинга при атаке на организации. Но, как она отметила, от таких атак можно защититься. 

«К тому же не стоит забывать, что сложная атака — это дорого, и использование нейросетки — тоже пока дорого», — добавила эксперт. 

Доктор ЧатДжиПиТи. Почему ИИ ставит диагнозы лучше врачей, но не заменит их Подробнее

Источник: https://ria.ru/