Как в России планируют выявлять социально опасных школьников?
Склонных к насилию и деструктивному поведению подростков начнут выявлять по их письменным работам. На создание программного обеспечения, способного анализировать тексты учащихся в рамках федерального проекта «Социальная активность» (входит в нацпроект «Образование») планируется выделить более 1,6 млрд рублей. Об этом сообщает РБК.
«Средства пойдут на разработку системы мониторинга распространения информации, которая может склонить или побудить детей „совершить действия, представляющие угрозу их жизни“ или жизни и здоровью других», — пишет издание со ссылкой на пояснительную записку к бюджету.
Как именно планируется анализировать тексты учащихся?
Информации об алгоритме работы программного обеспечения (ПО) пока в открытом доступе нет. Кроме того, неясно, какой именно формат будет анализировать новый софт — письменные сочинения или машинописный текст.
Эксперты предполагают, что в основе ПО может лежать нейросеть, которая будет сравнивать тексты учащихся с текстами, написанными людьми с психическими или социальными отклонениями.
Изучив такие тексты, программа сможет распознавать паттерны, анализируя образцы письменных работ. Работы с высоким процентом совпадения паттерна могут сигнализировать о наличии поведенческих отклонений.
«Определенные паттерны мышления действительно проявляются в устной и письменной речи, и алгоритмы могут позволить выявить те из них, что настораживают», — сказал «Ведомостям» детский психиатр Европейского медицинского центра Павел Зайцев.
Зайцев добавил, что в настоящее время ему не известно о существовании аналогов «доказательного программного обеспечения по психологическому анализу письменных работ» как в России, так и за рубежом.
Также в СМИ обсуждается вопрос защиты персональных данных. Ведь речь идет об оценке текстов несовершеннолетних. А сбор и обработка информации возможна только с согласия их законного представителя — родителя или опекуна. Все эти пункты разработчикам, видимо, предстоит проработать в процессе создания ПО, говорят эксперты.
Кто будет заниматься созданием нового софта?
По информации РБК, разработкой нового программного обеспечения займется автономная некоммерческая организация Центр изучения и сетевого мониторинга молодежной среды (ЦИСМ), созданная в 2018 году по поручению Владимира Путина.
«Центр создан с целью выработки системы по защите молодого поколения, детей и подростков от воздействия негативной информации. Центр выявляет контент, связанный с суицидальными проявлениями, кибербуллингом, распространением криминальной субкультуры и другими деструктивными тенденциями в молодежной среде», — говорится на сайте учреждения.
На создание софта центр получит по 551,1 млн руб. в 2022–2023 годах и 555,7 млн руб. в 2024-м. Проект бюджета утвержден правительством 21 сентября 2021 года, его внесение в Госдуму планируется до 1 октября, сообщают «Ведомости».
Сколько деструктивных сообществ, представляющих угрозу подросткам, выявлено в России?
По данным ЦИСМ, в результате мониторинга соцсетей специалисты центра определили около 30 субкультур деструктивной направленности, которые представляют потенциальную угрозу для подростков. К ним относятся так называемые суицидальные группы, сообщества, призывающие к насилию в школах, группы, пропагандирующие криминальный образ жизни.
«Мы в данном случае будем говорить больше не про людей, а про аккаунты. Все прекрасно понимают, что за одним человеком может стоять до пяти аккаунтов. Через свою систему мы видим чуть больше 61 млн аккаунтов, которые хотя бы один раз касались деструктивного контента. Но это не значит, что они его производят или постоянно потребляют. На постоянном мониторинге у нас находится порядка 1,5 млн аккаунтов, которые именно системно потребляют или генерируют этот деструктивный контент», — рассказал в интервью Forbes руководитель ЦИСМ Денис Заварзин.
Что ЦИСМ делает, когда обнаружен аккаунт деструктивной направленности?
Как пояснил Завразин, когда система мониторинга (нейросетей комплекс) обнаруживает аккаунты деструктивной направленности, они попадают в базу данных центра. Автоматически за ними идет постоянное наблюдение, и если аккаунты увеличивают свою активность, то попадают в «красную зону».
«Операторы более внимательно их изучают: идет разбор профилей с участием психологов-аналитиков, формируется аналитическая информация и потом передается либо в соответствующие службы для организации профилактической работы с владельцами, если мы видим какую-то суицидальную активность, либо в правоохранительные органы, если мы видим признаки приготовления к совершению преступления», — отметил Завразин.
