Исследование: чат-боты на ИИ способны менять мнение избирателей

Исследователи из Корнеллского университета выяснили, что даже короткий диалог с чат-ботом на базе большой языковой модели (LLM) может существенно изменить мнение избирателя о кандидате в президенты или политическом курсе.

Эксперименты, описанные в двух статьях в журналах Nature и Science, проводились в США, Канаде, Польше и Великобритании. Участникам предлагалось пообщаться с чат-ботом, который аргументированно продвигал ту или иную позицию.

В США, за два месяца до выборов 2024 года, чат-бот, фокусирующийся на политике кандидатов, сместил мнение вероятных сторонников Дональда Трампа в сторону Камалы Харрис на 3,9 пункта по 100-балльной шкале. В Канаде и Польше эффект был сильнее — предпочтения избирателей смещались примерно на 10 процентных пунктов.

Ключевым фактором убедительности ИИ оказалось использование множества фактических утверждений в поддержку своей позиции. Когда модели запрещали использовать факты, их способность к убеждению резко падала.

«LLM действительно могут менять отношение людей к кандидатам в президенты и политике, и делают они это, предоставляя множество фактических утверждений в поддержку своей стороны», — сказал профессор Дэвид Рэнд, старший автор обеих работ.

При этом исследователи отмечают, что эти утверждения не всегда были точными. Факт-чекинг показал, что чат-боты, продвигавшие правых кандидатов, делали больше неточных заявлений, чем боты, защищавшие левых, во всех трёх странах.

В отдельном исследовании с участием почти 77 000 британцев выяснилось, что наиболее убедительной модель становилась, когда её инструктировали использовать как можно больше фактов. Самые оптимизированные для убеждения модели смещали мнение оппонентов на впечатляющие 25 процентных пунктов. Однако с ростом убедительности точность предоставляемой информации снижалась.

Учёные подчёркивают, что изучение методов ИИ-убеждения необходимо для разработки этических норм и политик, ограничивающих потенциальный вред от их использования в политических кампаниях.