Разработка алгоритма идентификации факторов риска безопасности пользователей социальных сетей на основе анализа контента и психологических характеристик его потребителей
Проект РНФ: 19-78-10122
Сроки реализации проекта: 2019-2022 гг.
Актуальность
В российском исследовательском пространстве социальные сети по-прежнему остаются terra incognita. Хотя исследования кибербуллинга, онлайн-агрессии в последние годы активно вошли в научную повестку дня, проблема определения угроз, исходящих из социальных сетей, а также механизмов влияния угрожающего контента на детей и подростков-пользователей остается крайне малоизученной. Отсутствует методология и конкретные алгоритмы анализа небезопасного контента российского сегмента социальных сетей. Мало исследованы индивидуально-психологические особенности детей и подростков-пользователей социальных сетей, определяющие их уязвимость перед небезопасным контентом.

Увеличивающийся разрыв между уровнем вовлеченности детей и подростков в социальные сети и пониманием механизмов потребления онлайн-информации и информационного влияния в социальных сетях определяет высокую значимость научных исследований в данном направлении.

90% российских детей и подростков являются пользователями Интернет и социальных сетей (ФСГС РФ, ВЦИОМ, 2017, 2018). Стремительное проникновение социальных сетей во все сферы жизни делают детей и подростков мишенью для деструктивного влияния в связи с еще не сформировавшимися механизмами противостояния негативной информации. Сегодня социальные сети стали не только средством коммуникации, но и средством удовлетворения потребностей, реализации агрессии, распространения мнений и идей, и в целом – инструментом влияния, провоцирующим различные формы девиантного поведения: от социально неодобряемого, отклоняющегося до агрессивного и общественно-опасного поведения. Социальные сети, пропагандирующие и романтизирующие насилие, дискриминацию, суицид, school-shooting, каждый день вовлекают сотни последователей из числа подростков и молодых людей. За последние 5 лет Роскомнадзор заблокировал 60 тыс. страниц или материалов в социальных сетях. Больше всего запрещенного контента содержалось в самой распространенной среди подростков и молодежи России социальной сети «ВКонтакте» - более 48 тыс. В 2017 г. было заблокировано более 2 тыс. интернет-страниц. Только за 3 квартал 2018 г. в социальных сетях «Вконтакте», «Мой мир», «Одноклассники» выявлено более 32 тыс. материалов суицидального характера и около 17 тыс. порнографических материалов с участием несовершеннолетних в социальных сетях и ресурсах Интернета, наличие запрещенной информации выявлено на более 58 тыс. сайтов. Несмотря на блокировку, число трагических случаев, спровоцированных социальными сетями среди подростков, не снижается. Подростки, являясь пассивными потребителями информации, оказываются наиболее уязвимыми, поскольку строят модели своего поведения на основе наблюдаемых ими повседневных или неординарных событий на экране и в жизни, тем самым, попадая под влияние тиражируемых форм поведения (Craig G.).

Таким образом, исследования информационно-психологической безопасности детей и подростков - пользователей социальных сетей, равно как и разработка методов защиты от деструктивного информационного воздействия в социальных сетях становятся крайне востребованными.

Команда проекта
Руководитель проекта
Исполнители проекта
Гойко
Вячеслав Леонидович

Заведующий лабораторией
наук о больших данных и проблемах общества
ТГУ
Киселев
Павел Борисович

Соискатель Психологического института Российской академии образования, преподаватель Школы карьерного менеджмента г. Москва
Мундриевская
Юлия Олеговна
Исследователь
Лаборатория наук о больших данных и проблемах общества ТГУ

Ларионова
Анастасия Вячеславовна
Кандидат психологических наук, доцент кафедры философии и социологии ТУСУР, доцент кафедры генетической и клинической психологии ТГУ
Кандидат психологических наук, доцент кафедры организационной психологии ТГУ
Мацута
Валерия Владимировна
Петров
Евгений Юрьевич

Техник межрегионального супервычислительного центра ТГУ
Пешковская
Анастасия Григорьевна

Исследователь
Лаборатория экспериментальных методов в общественных и когнитивных науках,
Томский Государственный Университет
Научно-исследовательский институт психического здоровья,
Томский национальный исследовательский медицинский центр РАН
Фещенко
Артем Викторович
Старший преподаватель кафедры гуманитарных проблем информатики, заведующий учебно-научной лабораторией компьютерных средств обучения ТГУ
Разработан инструмент мониторинга социальных сетей на основе цифровых следов, поведенческих, психологических данных пользователей с определением основных факторов риска безопасности и идентификацией пользователей, входящих в группы риска
1
2
3
Задачи
Проект направлен на решение задачи создания комплексной модели идентификации и прогнозирования факторов риска безопасности в социальных сетях, основанной на анализе контента (содержания) социальных сетей и индивидуально-психологических характеристик пользователей (тревожность, агрессивность, типология характера).
Определены и классифицированы формы небезопасного контента социальных сетей в российском интернет-сегменте
В рамках проекта будут:
Разработано веб-приложение самодиагностики рисков онлайн-безопасности, а также рекомендации для работы с группами риска среди детей, подростков и молодежи на основе актуальных данных об информационных тенденциях в социальных сетях
Методы
Комплексность задачи обеспечивается междисциплинарностью проекта и комбинацией необходимых для решения задачи подходов и методов, заимствованных из разных наук (социальных, гуманитарных, компьютерных, математических). Для реализации проекта предлагается комбинация методов психологии (психодиагностики, профайлинга), компьютерной лингвистики, компьютерных наук (алгоритмы машинного обучения и интеллектуальный анализ данных), социально сетевого анализа, статистического анализа, успешно зарекомендовавшая себя в предыдущих проектах с участием настоящего коллектива.
Результаты реализации проекта на первом этапе 2019 - 2020 гг.
Классификатор форм небезопасного контента социальной сети «ВКонтакте» – 3050 девиантных сообществ по 13 категориям: алкоголь и пр., депрессия, жесть, зло, национализм, ненависть, опасные манипуляции с телом, оружие, пошлость, скулшутинг, смерть, суицид, true crime.
Веб-приложение для проведения психодиагностики психологических характеристик пользователей социальной сети «ВКонтакте» и сбора открытых данных из аккаунтов пользователей http://ivik.org.
Базы данных пользователей социальной сети «ВКонтакте»:
- данные психологических, индивидуально-типологических, патохарактерологических особенностей и цифрового следа школьников и студентов гг. Томска, Тюмени, Воронежа, Нижнего Новгорода, Москвы, Севастополя (11396 человек);
- социально-демографические данные и данные цифрового следа школьников и студентов гг. Томска и Барнаула (59820 человек).
- описание психологических, индивидуально-типологических и патохарактерологических особенностей потребителей небезопасного контента социальной сети «ВКонтакте».
Международная научная конференция «Гуманитарные и социальные исследования в условиях социокультурных трансформаций»
Конференции
(16-17 апреля 2020 г., г. Смоленск, Россия) - Мацута В.В., Мундриевская Ю.О., Сербина Г.Н., Мищенко Е.С. Анализ текстового контента девиантных онлайн-сообществ (на примере сообществ скулшутинга)
25th Annual International CyberPsychology, CyberTherapy & Social Networking Conference (CYPSY25)
12th annual International Conference on Education and New Learning Technologies EDULEARN20
22-24 June 2020, Milan, Italy - Anastasia Peshkovskaya, Valeria Matsuta. School shooting communities on social networks: identification mechanisms and network structure
6th-7th of July, 2020, Palma, Spain - Artem Feshhenko. Psychological safety of students in social networks: the search for dangerous content and identifying its consumers
Matsuta V., Mundrievskaya Y., Serbina G., Peshkovskaya A., Goiko V., Feshchenko A. School shooting communities on social networks: identification mechanisms and network structure // Annual Review of Cybertherapy and Telemedicine (2020) - in print
Публикации
1
2
3
4
5
Мацута В.В., Мундриевская Ю.О., Сербина Г.Н., Мищенко Е.С. Анализ текстового контента девиантных онлайн-сообществ (на примере сообществ скулшутинга) // Гуманитарный научный вестник. - №3. - 2020. – С. 90-101
Matsuta V.V., Mundriyevskaya J.O., Serbina G.N., Peshkovskaya A.G. Identification Strategy of Deviant Communities in Social Media (as Exemplified by School Shooting) // Social and Behavioral Sciences (2020) in print
Peshkovskaya A., Mundrievskaya Y., Serbina G., Matsuta V., Goiko V., Feshchenko A. Followers of school shooting online communities in Russia: age, gender, anonymity and regulations Advances in Intelligent Systems and Computing (2020) - in print
Feshchenko A., Mundrievskaya Y., Peshkovskaya A., Goiko V. Psychological safety of students in social networks: the search for dangerous content and identifying its consumers // Proceedings of 12th annual International Conference on Education and New Learning Technologies EDULEARN20 (2020) - in print
Электронные СМИ о проекте
Учёные создают алгоритм поиска школьников с повышенной тревожностью // Сайт ТГУ, 12 февраля 2020 г.
В России создают алгоритм поиска детей с повышенной тревожностью // Российское агентство международной информации "РИА Новости", 13 февраля 2020 г.
Приложение ТГУ позволит вычислять в соцсетях агрессивных подростков // РИА Томск, 18 февраля 2020 г.
"ВКОНТАКТЕ" НАЙДУТ ШКОЛЬНИКОВ С ПОВЫШЕННОЙ ТРЕВОЖНОСТЬЮ // ВТРК Радио "Маяк", 13 февраля 2020 г.
В Томске разрабатывают алгоритм выявления агрессии и тревожности в соцсетях // Информационное агентство "Красная весна", 13 февраля 2020 г.
Ученые создают алгоритм поиска школьников с повышенной тревожностью // Научно-популярный портал Naked Science, 12 февраля 2020 г.
В России с помощью специального алгоритма найдут подростков, склонных к агрессии и тревожности // Независимое педагогическое издание "Учительская газета", 15 февраля 2020 г.
Специальный алгоритм отыщет во «ВКонтакте» школьников с повышенной тревожностью // Агентство новостей ТВ2, 13 февраля 2020 г.
В России разрабатывают метод выявления в соцсетях школьников, склонных к агрессии // Медийно-сервисный интернет-портал "Рамблер", 13 февраля 2020 г.
В России разрабатывают метод выявления в соцсетях школьников, склонных к агрессии // Интернет-издание Letidor, 13 февраля 2020 г.
Во «ВКонтакте» будут искать агрессивных детей с помощью алгоритма // Источник актуальных новостей Recipe.Ru, 13 февраля 2020 г.
Во «ВКонтакте» будут искать агрессивных детей с помощью алгоритма // Сайт "Софтодром", 13 февраля 2020 г.
Made on
Tilda