На выявление социально опасных учащихся структура Росмолодежи получит более 1,5 млрд рублей для разработки ИИ.
Около 1,6 млрд рублей получит структура Росмолодёжи в рамках федерального проекта «Социальная активность». Финансирование из бюджета пойдет на разработку системы мониторинга информации, склоняющей детей «совершить действия, представляющие угрозу их жизни» или жизни и здоровью других. Деньги предназначены Автономной некоммерческой организации «Центр изучения и сетевого мониторинга молодёжной среды» (АНО «ЦИСМ»), которая была создана по инициативе президента России Владимира Путина в 2018 году.
Программа, которую разработают айти-специалисты Центра, должна уметь анализировать письменные работы учащихся, выявляя в них «склонности к социально опасному и деструктивному поведению». Возглавляет АНО »ЦИСМ" Денис Заварзин - бывший помощник главы Росмолодежи Александра Бугаева, который с весны 2021 года является первым заместителем министра просвещения, пишет РБК.
В своем интервью изданию Forbes он описал систему работы Центра: в базу нейросетевого комплекса попадают разные аккаунты с суицидальным, депрессивным и другим подобным контентом, в автоматическом режиме система наблюдает за активностью таких страниц.
«Если активность увеличивается, аккаунт попадает в «красную зону», и операторы более детально разбирают профили, анализируют их и передают информацию в профильные службы «для организации профилактической работы» с их владельцами, если речь идет о суицидальной активности, либо в правоохранительные органы, если центр обнаруживает признаки подготовки преступления», - пояснял Заварзин, отметив, что за одним человеком может стоять несколько аккаунтов.
Общее число акканутов в соцсетях, которые хотя бы раз «касались» деструктивного контента специалист оценил в 61 млн.
В свою очередь, доктор психологических наук, академик Российской академии образования (РАО) Сергей Малых сказал изданию, что искусственный интеллект может реагировать на слова-маркеры, которым его обучат. Единственное, на что обратил внимание психолог, так это на необходимость «обучить» ИИ не только реагировать на слова-маркеры, но и распознаванию контекста. Это важно, чтобы понять, как связана оставленная ребенком запись с его душевным состоянием, а для этого необходимо проводить отдельное поведенческое исследование. "Только на основании текста нельзя делать выводы о склонностях к преступлениям или суициду», — констатирует академик.
Также эксперты обратили внимание на такой немаловажный факт: участие родителей. Оценивать тексты, собирать и обрабатывать данные детей необходимо только заручившись согласием родителей или опекунов, напомнил разработчик поисково-аналитической системы Avalanche Андрей Масалович.
«Тексты учащихся в таком случае должны быть обезличены, подростку должен присваиваться индивидуальный идентификатор, который может декодировать только доверенная служба разработчиков программного обеспечения, например в системе правоохранительных органов. В случае утечки данных ответственность за это будет нести именно такая служба», - говорит Масалович.
Символично, что как раз сегодня, 24 сентября, председатель Следственного комитета России Александр Бастрыкин высказался по поводу трагедии в Перми. Бастрыкин отметил, что кровавая бойня, которую в гимназии в Казани устроил в мае Ильназ Галявиев, не привела к усилению мер безопасности в учебных заведениях. И расстрел в Пермском госуниверситета это подтвердил. Так, в зданиях должны были появиться "тревожные кнопки", установлены системы видеонаблюдения, а также электронный допуск.
«Однако этого сделано не было», - приводит портал 59.ru. слова Бастрыкина. Старая проблема с безопасностью учебных заведений в нашей стране как была, так и осталась, вынужден был признать глава СК.
По мнению Бастрыкина, у ответственных лиц администрации и персонала вуза не было чёткого алгоритма действий в экстремальных ситуациях. Горький урок Казани оказался не усвоен, и как результат - новая трагедия со стрельбой.
Напомним, 20 сентября студент первого курса юрфака пермского госуниверситета Тимур Бекмансуров явился в вуз с ружьем и стал стрелять в однокурсников без разбора. В результате, шесть погибших, более 40 потерпевших.
Прибывший в Пермь глава СК РФ устроил совещание, после которого покончил с собой руководитель следственного управления СКР по Пермскому краю Сергей Сарапульцев. Его коллеги уверены, что Сарапульцев не вынес разноса, который учинил Бастрыкин. Несколько местных следователей были уволены, сообщил телеграм-канал BAZA.
