О том, что в Свердловской области запустили мониторинг 4,6 млн профилей школьников в социальных сетях, сообщила вице-губернатор Татьяна Савинова в эфире ОТВ. Если в профилях пользователей обнаружат запрещенную информацию, признаки деструктивного поведения или суицидальных намерений, об этом сообщат в министерство образования и школы, где учатся дети.
Исследовательскую часть работы выполняет ЦИСМ — IT-компания Федерального агентства по делам молодежи (Росмолодежи), учрежденная в 2018 году по поручению президента России. Глава ЦИСМ Денис Заварзин рассказывал в интервью Forbes, что идею проекта Владимиру Путину подала Наталья Касперская, эксперт по защите детей в цифровом пространстве.
По словам Заварзина, речь идет об открытом сегменте социальных сетей с аккаунтами людей разных возрастов — особое внимание уделяют детям. ЦИСМ интересует пять направлений — суицидальный и депрессивный контент, информация о вооруженных нападениях на учебные заведения, анархизм, ультрадвижения и распространение криминальных сообществ. Система, выявляющая угрозы на ранней стадии, анализирует информацию, которую предоставляют партнеры — российские IT-предприятия «Крибрум» (соучредитель — Наталья Касперская), Brand Analytics и «Медиалогия».
«Мониторинг аккаунтов в соцсетях с помощью ИИ — это реальный механизм, в котором нет ничего технологически сложного, — объясняет специалист по безопасности Леонид Стариков, глава компании «Недремлющее око». — Нейросеть способна определить направленность текста с точностью 99%. Если срабатывает несколько триггеров сразу, специалист может, например, привлечь психолога или направить информацию в компетентные органы».
Когда сотрудники ЦИСМ считают, что риск противоправного события велик, они обращаются в полицию — по материалам, предоставленным компанией, возбуждают уголовные дела. Один из последних случаев был в Артемовском, где 13 марта местному жителю присудили административный штраф за комментарии в социальной сети, разжигающие межнациональную рознь. Поводом послужили данные сотрудников ЦИСМ.
По словам Заварзина, деятельность компании позволяет предотвращать нападения на школы. Алгоритм не срабатывает, если злоумышленник не оставляет в социальных сетях следов, которые считают маркерами. Так вышло, например, со студентом Пермского государственного университета, застрелившим шесть человек в сентябре 2021 года.
По сведениям 66.RU, после сообщений о мониторинге соцсетей школьников в Свердловской области, подобной практикой заинтересовались в других регионах.