Исследователи Санкт-Петербургского Федерального исследовательского центра РАН (СПб ФИЦ РАН) совместно с исследователями РАНХиГС обучили нейросеть находить соответствия между выраженными у человека механизмами психологической защиты и его аватаркой в социальных сетях.
В перспективе разработка может использоваться при создании методов оценки защищённости персональных аккаунтов пользователей от атак злоумышленников, а также для систем поддержки принятия решений HR-специалистов, изучающих активность потенциального кандидата на трудоустройство в соцсетях. Результаты исследования опубликованы в материалах конференции Artificial Intelligence in Models, Methods and Applications (Springer).
Сегодня социальные сети являются одним из важнейших видов интернет-платформ, которыми пользуются сотни миллионов людей по всему миру. Соцсети — это полезный и эффективный инструмент для общения, знакомств, создания социальных отношений, поиска работы, размещения рекламы, торговли, бизнеса и для многого другого.
В то же время, в силу столь важных и разнообразных функций, социальные сети являются местом высокой активности киберпреступников. Их деятельность направлена на самые разные цели, ключевые из которых связаны с нанесением экономического и репутационного ущерба людям и компаниям. Поэтому крайне актуальной являются разработка эффективных методов и сервисов для повышения безопасности пользователей соцсетей.
«Киберпреступники часто используют действенные психологические приемы, чтобы обмануть пользователей и войти к ним в доверие. Для этого они анализируют, что пишут пользователи, а также какие фото и видео те выкладывают. В этих условиях наша задача — находить уязвимости раньше злоумышленников, оценивать степень их опасности и предлагать меры защиты. Однако анализ каждого пользователя вручную требует очень много ресурсов. Одним из способов повышения эффективности этой работы является автоматизация, например, с помощью нейросетей. В нашем исследовании мы показали, что существуют взаимосвязи между механизмами психологической защиты и определёнными особенностями изображения его аватара, которые нейросети могут находить. Как раз эти паттерны часто используют злоумышленники», — поясняет младший научный сотрудник Лаборатории теоретических и междисциплинарных проблем информатики (ЛТиМПИ) СПб ФИЦ РАН Фёдор Бушмелев.
Первый этап исследования заключался в сборе информации для базы данных. Для этого учёные провели исследование с использованием психологического теста «Индекс жизненного стиля» для выявления уровней выраженности механизмов психологической защиты среди респондентов. В исследовании ученых СПб ФИЦ РАН приняли участие более 300 человек.
В качестве основы для своей системы использовалась нейронная сеть, которая была обучена распознавать эмоции людей (радость, грусть, тревога и проч.) по фотографиям. Именно эмоции по мнению Р. Плутчика, Г. Келлерман и Х.Р. Конта — авторов одной из концепций психологической защиты, лежат в основе защитных проявлений личности. Исследователи дообучили нейросеть таким образом, чтобы она могла установить соответствия между наиболее ярко выраженными механизмами психологической защиты и особенностями фотографий, которые они ставили на свои аватарки. Затем учёные провели обратный эксперимент: загрузили нейросети аватары пользователей и изучали насколько корректно она сможет прогнозировать защитный психологический профиль.
«Для подобного рода междисциплинарных исследований на стыке психологии и IT мы получили весьма неплохую точность прогноза. И самое главное, что мы смогли показать — таким образом возможно определять некоторые особенности человека, которому принадлежит конкретная аватарка. Сейчас мы будем работать над повышением точности нашей нейросети, это потребует существенного увеличения количества информации в базе данных. В перспективе подобные системы могут использоваться для повышения безопасности страниц пользователей соцсетей. Например, мы будем их применять в методиках оценки уязвимости аккаунтов, которые разрабатывает наша лаборатория», — рассказывает Фёдор Бушмелев.
Пока нейросеть распознает немного признаков на фотографии пользователя: положение головы, глаз, выражение лица и некоторые другие. Однако в будущем учёные хотят добавить больше признаков, использовав, например, положение тела в кадре, позу, предметы и проч. Данное исследование является одним из проектов сотрудников лаборатории ЛТиМПИ СПб ФИЦ РАН в сфере изучения различных видов информационных атак. Так, ранее они разработали компьютерную игру для повышения уровня личной и корпоративной грамотности сотрудников компаний в цифровой среде.
Источник: пресс-служба СПб ФИЦ РАН.