ИИ вызывает «агентное наводнение» в госслужбах: жалобы и заявки растут в разы

По мере того как ИИ упрощает заполнение форм и подачу жалоб, государственные службы по всему миру фиксируют огромный рост числа заявок и прочих обращений.

В Великобритании количество жалоб в жилищный омбудсмен более чем удвоилось после появления ChatGPT — с 2600 в 2022 году до чуть более 7000 в прошлом году. Бюро финансовой защиты потребителей США (CFPB) за тот же период зафиксировало пятикратный рост жалоб. Похожая картина наблюдалась с судебными исками в Бразилии и петициями в парламент Германии.

Исследователь Крис Шмитц отслеживает этот рост в рамках более широкой тенденции, которую он назвал «агентным наводнением». В своей работе, которую он представит в следующем месяце на конференции по этике ИИ и обществу, он рассматривает 84 различных случая потенциального «наводнения» в 11 юрисдикциях и находит широкие свидетельства того, что инструменты ИИ меняют то, как люди взаимодействуют с государственными службами.

Куда более сложный вопрос — что с этим делать. Если одни новые обращения явно носят враждебный характер, то другие являются результатом того, что добросовестные заявители используют ИИ для подачи заявок, от которых иначе отказались бы. Кто-то может увидеть в новых заявках сгенерированный ИИ спам, но Шмитц считает это редкой возможностью перестроить социальные службы под эпоху ИИ.

Шмитц изучил службы — от заявок на социальные пособия до официальных судебных апелляций, — но у всех них есть онлайн-сервисы, к которым может получить доступ ИИ-ассистент. (Полный набор данных размещён здесь для справки.) По методологическим причинам работа Шмитца не утверждает напрямую, что именно ИИ вызывает всплеск новых заявителей. Однако большинство из 84 случаев развиваются по одной и той же схеме: до 2022 года число обращений было примерно неизменным, а затем начало расти всё быстрее по мере распространения технологий ИИ. Что особенно важно, в большинстве случаев этот рост не замедляется, а значит, он, вероятно, будет продолжаться ещё годы.

По мнению Шмитца, легко понять, почему рост возможностей и доступности ИИ ведёт к более активному использованию.

«Люди узнают, что так вообще можно делать, и постепенно это становится всё проще… раньше это могло быть вопросом сбора кучи контекста и очень точного промпта для ChatGPT 3.5, а теперь достаточно просто вставить письмо или сфотографировать его в приложении Claude и получить вполне приличный ответ с первого раза», — сказал он.

Такой скачок объёмов похож на то, с чем в прошлом году столкнулись многие программы bug bounty: компании обнаружили, что их почтовые ящики завалены низкокачественными отчётами, сгенерированными большими языковыми моделями. В этих отчётах редко содержались значимые проблемы безопасности, но компании всё равно были обязаны проверять каждое поступление, что серьёзно истощало ресурсы. Нетрудно представить, что государственные службы столкнутся с похожей проблемой, когда им придётся обрабатывать в пять раз больше заявителей при том же бюджете.

Но если программы bug bounty заваливали бесполезными отчётами, то, по словам Шмитца, большинство новых обращений в госслужбы поступает от реальных людей с законными требованиями.

«В подавляющем большинстве случаев, которые мы находим, это люди, имеющие право на получение чего-либо, и они претендуют именно на это», — сказал он TechCrunch.

Если раньше эти люди не заявляли о своих правах, возможно, потому что сама процедура подачи была слишком обременительной — в мире политики это называют административным бременем. Теперь, когда ИИ способен снять это бремя, появляется возможность перестроить многие из этих служб так, чтобы они лучше соответствовали возможностям ИИ.

Это масштабная задача, к решению которой мы в основном ещё даже не приступали, но Шмитц видит в ней повод для оптимизма.

«Во многом залог того, что ИИ будет работать хорошо, — это умение детально описать, как выглядит хорошая версия того или иного процесса. И любой, кто хоть раз использовал ChatGPT для заполнения налоговой декларации, знает, что есть хорошая версия, где тебе помогают», — говорит Шмитц. «Возможно, сейчас тот самый момент, чтобы сказать: „нам нужно переосмыслить практически всё в том, как выглядит этот процесс“».