Дети под присмотром: маёвцы создали сервис, помогающий предотвращать трагедии
Неустойчивая и формирующаяся психика ребёнка или подростка чрезвычайно восприимчива к оценке личности другими людьми, к роли и значимости для окружающего социума. И если этот социум начинает отвергать, последствия могут быть непоправимыми — ребёнок может впасть в депрессивное состояние и причинить вред себе или окружающим. К сожалению, иногда родители до последнего момента не могут понять, что происходит.
Озадачившись этой проблемой, студенты Московского авиационного института разработали сервис «Eliza: и в сети дети под присмотром». Леонид Цыпленков и Даниил Смирнов учатся на третьем курсе в институте № 8 «Информационные технологии и прикладная математика» МАИ, Артемий Мазаев — аспирант в институте № 1 «Авиационная техника» и специалист IT-Центра МАИ. Их разработка призвана помочь родителям предсказать вероятные психологические отклонения у ребёнка по его контенту в социальных сетях. Запустить проект планируется уже в этом году с использованием мощностей «Яндекс.Облако».
«Кибербуллинг» — это то же насилие, только в цифровом пространстве. Оно носит исключительно психологический характер, но не менее опасно. Развитие современных технологий, а также знания и возможности, которые даёт нам обучение в Московском авиационном институте, позволили создать сервис, который, я надеюсь, поможет предотвращать трагедии, — говорит Артемий Мазаев.
Идея проекта зародилась у ребят в 2019 году на международном хакатоне MoscowHack, а в 2020 году проект получил грант «УМНИК» и продолжил развиваться. На данный момент при поддержке IT-Центра МАИ авторы создали рабочий прототип. Благодаря принципу тематического моделирования прототип распознаёт всю текстовую информацию, выложенную пользователем на личной странице в социальных сетях «ВКонтакте» и Instagram, в видеороликах и описаниях к ним в TikTok. При этом обученная нейросеть распознаёт злобные, оскорбительные комментарии. Также авторы работают над системой для анализа изображений и видео, размещённых на личных страницах в социальных сетях.
В планах у ребят — больше сосредоточиться на TikTok и подвергнуть анализу ещё один важный элемент — речь. Авторы проекта объясняют это тем, что TikTok — одна из самых популярных среди подростков социальная сеть. Они предполагают, что работа именно с этой соцсетью будет наиболее продуктивной для решения поставленных задач.
Тематическая модель в психологии
Для обнаружения аккаунта ребёнка родителям или образовательной организации достаточно предоставить фотографию — система сама найдёт по социальным сетям наиболее похожего человека, или указать телефонный номер — и тогда можно узнать аккаунт, который на него зарегистрирован.
Всю работу по выявлению психологических девиаций производит при помощи тематического моделирования нейронная сеть. Программе необходимо дать ссылку на профиль ребенка, она определит, в каких опасных группах он состоит, о чём пишет, и выявит возможные отклонения: депрессию, суицидальные мысли и прочее.
«Смысл тематического моделирования в том, что нам не нужно знать, какое предложение какую мысль несёт — программа сама анализирует и выявляет, о чём идёт речь, — говорит Леонид. — Нейросеть, используемая для распознавания текстов, обучена так, что определяет депрессию у пользователя с высокой точностью — около 95%. По итогам полного анализа будут получены различные топики, например, „депрессия“, „склонность к суициду“ и так далее. Отобразится целый набор интересов пользователя социальной сети и даже его психологический портрет по типологии Майерса-Бриггса (MBTI)».
Для проекта маёвцев студенческая научно-образовательная организация Московского психолого-педагогического государственного университета отобрала психологические тесты трёх видов, выявляющие тип и черты личности, а также наличие девиаций. После этого перешли к испытаниям, найдя добровольцев среди студентов и проанализировав их социальные сети.
«Мы сопоставили результаты тестов с данными человека, которые он сообщает о себе, и получили модель, которую мы сформировали на основе изображений и текста. Точность получилась порядка 80%, что для такого массива данных очень хороший результат», — говорит Леонид.
Система может обнаружить наличие проблемы, но сделать что-либо с этим не может. Поэтому для дальнейшей работы потребуется психолог, который поможет ребёнку выйти из трудной ситуации. Для этого маёвцы прорабатывают план сотрудничества с центрами психологической помощи. Помимо этого, по мнению создателей, разработка является перспективной и в HR-сфере, ведь с её помощью работодатель сможет выявлять людей с психическими отклонениями и склонных к употреблению алкоголя или запрещённых веществ.
