Уже давно мы сталкиваемся с новостями про искусственный интеллект (ИИ). Кто-то пишет, что ИИ стал крупнейшим научным достижением последних десятилетий. Другие выражают опасения, что из-за этого уже сейчас исчезают многие профессии. Кто прав?
Сегодня мы вместе с генеральным директором компании по информационной безопасности Security Vision Русланом Рахметовым разберём мифы и предрассудки, связанные с применением технологии ИИ, а также опишем её реальные возможности и связанные с ней риски.
Миф № 1: Возможности ИИ кратно превосходят человеческие
Реальность: модели ИИ обучались и обучаются на данных, создаваемых людьми, — это значит, что фактически ИИ просто комбинирует уже существующую информацию и затем синтезирует на её основе новый контент.
Да, системы ИИ могут изучать новые явления и даже совершать научные открытия, но только за счёт предыдущих открытий, сделанных людьми. При этом существует и определенная опасность — появление ошибок и придуманных фактов, выдаваемых ИИ за правду.
Такие галлюцинации моделей ИИ встречаются всё чаще из-за того, что предыдущие версии ИИ уже изучили все оригинальные тексты и документы, созданные людьми, и новые модели вынуждены учиться на синтетическом контенте, созданном предшественниками.
Важно, что ошибки, допускаемые ИИ, зачастую не анализируются людьми критически — показательны случаи из судебной практики, в которых ИИ буквально выдумывали несуществующие нормативные акты и процессуальные решения, а юристы использовали их без перепроверки.
В методах работы систем ИИ есть и определенная коммерческая логика. Компании-владельцы передовых чат-ботов зарабатывают на подписках и длительном использовании ИИ. Именно поэтому чат-бот скорее согласится с вашим априори ошибочным мнением, чем станет спорить с вами.
Миф № 2: ИИ вытеснит людей в большинстве профессий
Реальность: эксперты и исследователи прочат различным категориям работников кардинальные изменения: от полного исчезновения профессий переводчиков и дизайнеров до кратного увеличения производительности программистов и маркетологов. Сейчас в российской экономике ИИ применяется, скорее, выборочно — например, он активно используется в контакт-центрах, однако при возникновении нетривиальных вопросов клиентов всё равно переключают на «живых» операторов.
Ещё пример: программисты всё чаще используют ИИ для написания кода, однако качество такой работы уступает программам, написанным опытными разработчиками. Это вынуждает тратить время на перепроверку сгенерированного ИИ кода. Такой контроль пока осуществляют именно люди.
Миф № 3: ИИ помогает сократить расходы
Реальность: новые технологии зачастую развиваются по так называемому «циклу хайпа». За появлением технологии следуют её широкое обсуждение и чрезмерный ажиотаж, затем — разочарование и падение интереса.
Вероятно, сейчас развитие технологии ИИ переходит в фазу разочарования. Крупнейшие компании осознают, что внедрение ИИ становится чрезмерно затратным, а без сотрудников корпоративные процессы просто встают. Бизнес, поверивший во всемогущество ИИ и привыкший оптимизировать затраты, сталкивается с противоположным эффектом — затраты на ИИ растут, а ожидаемых от его внедрения результатов достичь не удаётся.
У стремительного роста востребованности ИИ есть и побочные эффекты, заметные простым пользователям: цены на потребительскую электронику растут из-за востребованности оперативной памяти и ограниченного предложения со стороны её производителей. Кроме того, из-за связанного с ИИ роста вычислительных мощностей повышаются потребление электроэнергии и нагрузка на энергосистему страны, а инфраструктура центров обработки данных оказывает негативное влияние на экологию всей планеты. Кроме того, технология ИИ может быть не такой полезной и безопасной, как нас пытаются убедить её разработчики.
Миф № 4. ИИ может взломать любую систему
Реальность: сразу отметим, что хакерские возможности ИИ действительно впечатляют даже их создателей. Недавно стало известно о кибератаке, совершённой новейшими моделями ИИ, которые самостоятельно обнаружили уязвимость защищённой платформы разработки и взломали её.
Злоумышленники уже взяли на вооружение новую технологию и научились обходить встроенные защитные механизмы моделей ИИ с помощью промптов-легенд о том, что они выполняют легальный аудит кибербезопасности или изучают работу компьютерных вирусов. Хуже того: серьёзные взломы стали доступны даже тем, кто не умеет программировать. При этом сами по себе системы ИИ не создают новые методы взлома — они лишь автоматизируют рутинные операции злоумышленников.
Однако даже добросовестное использование ИИ обычными пользователями может привести к непреднамеренным утечкам конфиденциальных данных. По умолчанию большинство ИИ-сервисов будет собирать и использовать введённые пользователями промпты и загруженные файлы для обучения будущих версий моделей. Это значит, что кто-то потом сможет, например, увидеть фрагменты ваших служебных документов в ответах чат-бота. Важно также помнить и о том, что ИИ помогает атаковать не только продвинутые ИТ-системы, но и самый сложный объект в мире — разум человека. Технологии ИИ способствуют созданию и быстрому распространению дезинформации, предвзятых точек зрения, дискриминации, а также усилению эффекта «информационного пузыря», в котором пользователь изолируется от альтернативной информации и иных точек зрения.
Таким образом, при наличии злого умысла модели ИИ способны спровоцировать кибервойну, социальные волнения или даже вооружённый конфликт. Однако технологии ИИ используются и во благо — для защиты информации и поиска злоумышленников.
Миф № 5: ИИ используется только для кибератак
Реальность: сегодня ИИ интегрируется в средства защиты информации и сам становится полезным инструментом в различных методах борьбы с киберугрозами. Примеров много: от выявления вредоносного кода в программах и предотвращения сетевых атак до обнаружения и блокирования разрушительных воздействий, таких как кража данных и уничтожение информационных систем.
Мы в компании Security Vision активно применяем технологии ИИ в наших продуктах по кибербезопасности. Например, для выявления кибератак и обнаружения фишинговых ссылок, для поиска аномалий в поведении устройств и в действиях пользователей, для анализа опасности уязвимостей и обработки сообщений о киберугрозах.
Продукты Security Vision помогают специалистам по кибербезопасности быстрее реагировать на кибератаки — отсеивать ложные срабатывания других средств защиты, анализировать произошедшие события и оценивать их критичность. Кроме того, ИИ-помощник Security Vision в интерактивном режиме отвечает на вопросы специалистов во время реагирования на кибератаки, формирует список рекомендованных действий для повышения уровня безопасности и даже может выступать в роли учителя для новых сотрудников.
В заключение отметим, что современные защитные технологии на базе ИИ не ограничиваются киберпространством — например, системы распознавания лиц с помощью ИИ позволяют обнаруживать преступников на улицах городов и даже прогнозировать опасное поведение и дорожные аварии.
Реклама. ООО «Интеллектуальная безопасность»
Подписывайтесь на АиФ в  MAX
|
