Искусственный интеллект может незаметно искажать результаты опросов и предвыборные прогнозы

Исследование Дартмутского колледжа показало, что искусственный интеллект способен массово искажать результаты опросов общественного мнения, успешно проходя все проверки на ботов и имитируя ответы реальных людей.

Результаты исследования, опубликованные в Proceedings of the National Academy of Sciences, демонстрируют уязвимость современных опросов. В семи крупных национальных опросах перед выборами 2024 года добавление всего 10-52 поддельных ответов ИИ по цене пять центов (~4 рубля) за каждый могло бы изменить прогнозируемый исход.

Иностранные противники могли бы легко использовать эту уязвимость: боты работают даже при программировании на русском, китайском или корейском языках, но выдают безупречные ответы на английском.

Инструменты ИИ легко обходят обнаружение

«Мы больше не можем доверять, что ответы на опросы поступают от реальных людей», — заявил автор исследования Шон Уэствуд, доцент кафедры политологии в Дартмуте и директор Лаборатории исследований поляризации.

Для проверки уязвимости онлайн-опросов к большим языковым моделям Уэствуд создал простой инструмент ИИ, работающий на основе 500-словного промпта. В 43 000 тестов инструмент прошел 99,8% проверок на внимательность, не допустил ошибок в логических задачах и успешно скрыл свою нечеловеческую природу.

Инструмент адаптировал ответы в соответствии со случайно назначенными демографическими характеристиками, например, давая более простые ответы при меньшем уровне образования.

Влияние на целостность опросов и исследований

При программировании в пользу демократов или республиканцев рейтинг одобрения президента менялся с 34% до 98% или 0%. Поддержка на выборах менялась с 38% у республиканцев до 97% или 1%.

Последствия выходят далеко за рамки предвыборных опросов. Опросы являются основой научных исследований в различных дисциплинах — от психологии и экономики до здравоохранения. Тысячи рецензируемых исследований, публикуемых ежегодно, полагаются на данные опросов.

Финансовые стимулы и провал методов обнаружения

Финансовые стимулы для использования ИИ очевидны: если реальные респонденты обычно получают $1.50 (~120 рублей) за опрос, то ИИ-боты могут выполнить ту же задачу бесплатно или примерно за пять центов (~4 рубля). Проблема уже проявляется — исследование 2024 года показало, что 34% респондентов использовали ИИ для ответов на открытые вопросы.

Уэствуд протестировал все существующие методы обнаружения ИИ, и все они не смогли идентифицировать его инструмент. Исследователь призывает компании, проводящие опросы, к прозрачности и требованию доказывать, что участники являются реальными людьми.