Заседание Совета Федерации по теме «Злоупотребления с использованием искусственного интеллекта и возможности противодействия» состоялось в четверг, 23 мая. Отрасль нуждается в регулировании из-за серьезных рисков искажения информации, нарушения прав человека и огромного количества мошенничеств.
Касается всех
Сенаторы и эксперты обсудили меры противодействия злоупотреблению с использованием ИИ. Действительно, в России трудно встретить человека, кто ни разу не сталкивался с телефонными мошенниками. В последние годы идет цифровизация без оценки социальных рисков, что влечет за собой утечку персональных данных.
Злоумышленники крадут сотни миллионов персональных данных, а данные об утечке публикуются в интернете, как с фронтов. Например, в начале 2024 года в открытом доступе оказались 121 миллион телефонных номеров и 38 млн e-mail адресов, что в пять раз больше, чем за аналогичный период 2023 года.
«В прошлом году, по оценкам Роскомнадзора, украли 490 миллионов записей. И только в январе — 510 миллионов, уже в десять раз больше!» — рассказывает член совета при президенте РФ по развитию гражданского общества и правам человека Игорь Ашманов.
Трудно найти человека, которому ни разу не звонили телефонные мошенники.
Обычно в самый неожиданный момент вам поступает звонок якобы из прокуратуры или полиции. Собеседник уверенно заявляет, что у вас есть кредитный договор с банком и даже называет его номер. Мошенник даже может вам пригрозить.
«Преступник говорит: „Вы не обслуживаете договор и теперь мне нужно возбудить уголовное дело. Но если вы будете платить, я этого делать не буду. Вот вам счет“.
Понятно, что большинство людей таким звонкам не верят, но находятся и те, кто деньги переводит. При этом самая страдающая группа — люди 35-45 лет, — комментирует Игорь Ашманов. — Как правило, это те, у кого есть деньги».
Украли голос
Сейчас стало известно, что это огромная машина по выкачиванию денег из граждан украинскими контакт-центрами, где эта система поддерживается государством и СБУ, рассказывает Ашманов.
Теперь в этих контакт-центрах к тому же начали применять ИИ. Через какое-то время технология может позволить совершать в день не 500 звонков, а 500 тысяч.
«Я сам слышал такой звонок. Голос вполне естественный, как у живого человека, — продолжает эксперт. — Эта штука не знает слабости. Скоро ИИ будет совершать еще больше звонков в день, а самое главное — оказывать гипнотическое действие. Будут звонить голосом родственника, если смогут найти и синтезировать».
Случаи незаконного использования голоса человека для генерации речи с помощью технологий ИИ знакомы почти всякому, например, при озвучивании нежелательного контента для мошеннических целей.
«Для устранения данной проблемы сейчас разрабатывается законопроект, который будет направлен на устранение пробела в правовом регулировании голоса человека. Нужно закрепить принципы его использования только при согласии гражданина, кроме некоторых норм», — комментирует член комитета Совета Федерации по конституционному законодательству и госстроительству Артем Шейкин.
Поставили на рельсы
Необходимо наладить работу с правонарушениями, которые могут произойти с использованием ИИ. По словам председателя Комиссии СФ по информационной политике и взаимодействию со СМИ Алексея Пушкова, обман «ставится на продвинутую технологическую основу».
«ИИ позволяет делать бесчисленное количество звонков. Как меня заверяют специалисты, его голос невозможно отличить от человека, который занимается такой же деятельностью», — сообщает сенатор.
Он говорит, что тема важная, социальная. Нужно не забывать и о других ее аспектах. К примеру, еще одна тема — вовлечение несовершеннолетних в терроризм. В какие-то моменты речь идет о нарушении прав человека. Нужно не забывать о том, ИИ постоянно «наблюдает» за людьми (в первую очередь, касается распознавания лиц, наблюдения и слежения).
«Надо либо корректировать закон, либо четко определить, в каких пределах разрешена та или иная форма наблюдения за человеческой жизнью. Нам предстоит определить, какие сферы ИИ требуют вмешательства законодателей. Нужно проконсультироваться с коллегами с правоохранительных органов, — комментирует Алексей Пушков. — Я помню разговоры о том, что интернет — это зона свободы. Наконец, это появилось и оказалось, что это не только зона свободы, но и преступности».
Без вины осужденный
Первый зампред Комитета Совфеда по конституционному законодательству и госстроительству Ирина Рукавишникова рассказывает, что порой на основании данных, полученных от ИИ, могут быть приняты неверные решения. Она приводит историю ученого-геодезиста Александра Цветкова. Данные и выводы к убийству 20-летней давности ошибочно сделала нейросеть.
«Нейросеть показала 55% совпадения внешности. Цветков десять месяцев провел в тюрьме, в итоге была признана ошибка и перед ним извинились», — говорит Ирина Рукавишникова.
В Совете Федерации попросили экспертов выявить сферы, где применение ИИ несет недопустимые риски.
«По мнению экспертов, в эту группу попадает, в частности, биометрическая категоризация людей, распознавание человеческих эмоций на рабочем месте, система так называемого социального рейтинга. Сюда же стоит отнести выставление окончательных медицинских диагнозов, принятие решения о привлечении к уголовной ответственности и вынесение любых судебных решений, основанных исключительно на технологиях ИИ», — говорит Ирина Рукавишникова.
Просто как дважды два
Несмотря на все озвученное выше, до сих пор часто можно видеть людей у метро, продающих сим-карты без документов. По словам председателя совета Фонда развития цифровой экономики Германа Клименко, сейчас, наконец, власти взялись за эту проблему.
«Считается, что в нашей стране 30% сим-карт — серые. Пора заканчивать эту историю, особенно в 2024 году, — говорит Герман Клименко. — В России есть целые центры для обзвона мошенниками. Управление ими идет с Украины или других стран. Они в десятках городов. Речь идет о тысячах „левых“ симок, которые вставляются в специальное оборудование. Все очень технологично».
Некоторые звонки россиянам поступают из-за границы, а номера подделываются. При этом любопытно, в другие страны, например, в Бельгию, нельзя позвонить анонимно, потому что власти не разрешают «приземлять» анонимные звонки, а в России это можно.
«Если вы позвоните в ту же Бельгию, будет видно, кто звонит. А у нас не только „приземляется“ телефон, но и подделывается номер. Потому и может на телефоне отобразиться, что вам звонит некий майор МВД Герасимов. Там же такая функция не пройдет, — объясняет Герман Клименко. — Бесспорно, надо как-то ужесточать эту систему. Скажу, что нет конкретных схем, которыми пользуются преступники. ИИ — слишком объемная система. До сих пор какие-то мошенники по старинке звонят с зоны. В каждом случае надо разбираться отдельно».
