ИИ обнаружил сходство речи в сообществах ненависти на Reddit с психиатрическими форумами

Исследователи проанализировали речевые паттерны участников сообществ ненависти в интернете. Автор: Mika Baumeister, Unsplash (CC0, creativecommons.org/publicdomain/zero/1.0/)

Новое исследование показало, что посты в сообществах, посвящённых ненависти на платформе Reddit, имеют сходство с постами в сообществах, связанных с определёнными психическими расстройствами. Доктор Эндрю Уильям Александер и доктор Хунбин Ван из Техасского университета A&M (США) опубликовали эти выводы в открытом журнале PLOS Digital Health.

Распространённость соцсетей вызывает опасения из-за их роли в распространении языка ненависти и дезинформации, что может способствовать предрассудкам, дискриминации и реальному насилию. Ранее исследования выявляли связь между определёнными чертами личности и публикацией ненавистнических высказываний или фейков.

Однако оставалось неясным, существует ли связь между психологическим благополучием и онлайн-ненавистью или дезинформацией.

Для прояснения этого вопроса Александер и Ван использовали инструменты искусственного интеллекта, чтобы проанализировать посты из 54 сообществ Reddit, связанных с ненавистью, дезинформацией, психическими расстройствами или (для нейтрального сравнения) ни с одним из этих категорий.

Среди исследуемых групп были r/ADHD (сообщество о синдроме дефицита внимания), r/NoNewNormal (дезинформация о COVID-19) и r/Incels (забаненное сообщество за язык ненависти).

Исследователи использовали языковую модель GPT-3 для преобразования тысяч постов в числовые представления, отражающие речевые паттерны. Затем эти данные анализировались с помощью методов машинного обучения и топологического анализа данных.

Анализ показал, что речевые паттерны в сообществах ненависти схожи с паттернами в сообществах, посвящённых комплексному посттравматическому стрессовому расстройству, а также нарциссическому, антисоциальному и пограничному расстройствам личности. Связь между дезинформацией и психическими расстройствами оказалась менее выраженной, но прослеживалась с тревожными расстройствами.

Важно отметить, что эти результаты вовсе не означают, что люди с психическими расстройствами чаще склонны к ненавистническим высказываниям или дезинформации. Во-первых, невозможно было определить, были ли авторы постов действительно диагностированы с расстройствами.

Авторы предполагают, что их выводы могут помочь в разработке новых стратегий борьбы с онлайн-ненавистью, например, с использованием элементов терапии, разработанных для психических расстройств.

«Наши результаты показывают, что речевые паттерны участников сообществ ненависти имеют сильное сходство с паттернами людей с определёнными психическими расстройствами, особенно с кластером B расстройств личности: нарциссическим, антисоциальным и пограничным», — отмечают авторы.

Александер подчёркивает, что связь между дезинформацией и психическими расстройствами оказалась слабее: «Кроме потенциального компонента тревоги, можно сказать, что большинство распространителей дезинформации психически здоровы».

Исследователь также добавил: «Важно понимать, что это не означает, что люди с психическими расстройствами чаще участвуют в ненавистнических высказываниях. Скорее, те, кто занимается этим онлайн, демонстрируют речевые паттерны, схожие с кластером B расстройств личности».

Больше информации: Alexander AW, Wang H. Topological data mapping of online hate speech, misinformation, and general mental health: A large language model based study. PLOS Digital Health (2025). DOI: 10.1371/journal.pdig.0000935