Берни Сандерс пытался «поймать» ИИ, но получил лишь мемы

В новом вирусном видео сенатор Берни Сандерс пытался показать, что индустрия искусственного интеллекта угрожает приватности американцев. Однако в итоге он продемонстрировал, как склонность ИИ-чатов соглашаться и льстить пользователям может превратить бота в зеркало убеждений самого человека, а не в инструмент для открытий.

Эта проблема уже знакома на фоне растущего числа людей, страдающих от «ИИ-психоза», когда чат-бот подкрепляет иррациональные мысли и убеждения психически нестабильного человека. Как утверждается в нескольких судебных исках, в некоторых случаях эта опасная модель поведения даже приводила пользователей к самоубийству.

В случае с Сандерсом угодливость ИИ проявилась в том, что чат-бот подстраивал свои ответы под политика.

Стоит отметить, что «интервью» начинается с того, что Сандерс представляется Клоду (которого он ошибочно называет ИИ-«агентом») — этот шаг мог повлиять на ответы бота.

Затем, задавая вопросы о практике сбора данных ИИ-компаниями и других проблемах приватности, Сандерс получает от Клода согласные ответы, которые хочет услышать. Отчасти это происходит из-за самой формулировки вопросов политика, например: «Что удивило бы американцев, если бы они узнали, как эта информация собирается?» или «Как мы можем доверять ИИ-компаниям в защите нашей приватности, когда они используют личную информацию людей для заработка денег?» Такие наводящие вопросы заставляют чат-бота принять предпосылку вопроса и подобрать подходящий ответ. Так эти системы и работают.

И когда ответ Клода намекал, что тема сложнее или неоднозначнее, чем её представил Сандерс, сенатор не соглашался, вынуждая бота с долей самоуничижения признать, что сенатор «абсолютно прав».

Именно эта угодливая природа ИИ может заводить людей в опасные тупики, когда они считают чат-бота источником универсальной истины, а не инструментом, на который может влиять сам пользователь.

Неясно, знал ли Сандерс об этом, но просто не придал значения (ведь это всего лишь рекламный ролик!), или же он искренне считает, что обманул Клода и заставил его стать разоблачителем в индустрии ИИ.

И, конечно, возникает вопрос, не подготовила ли команда Сандерса чат-бота к определённым ответам, учитывая, что это была постановочная «беседа».

Хотя реальные опасения по поводу сбора данных и приватности существуют, ситуация не так черно-бела, как это представлено в ответах ИИ в этом видео.

Мы уже живём в мире, где компании годами массово собирают и продают данные пользователей. Мы знаем, что гиганты вроде Meta превратили персонализированную рекламу в многомиллиардную машину по печатанию денег. И благодаря регулярным отчётам о прозрачности от технологических гигантов мы знаем, что правительства по всему миру регулярно запрашивают доступ к данным пользователей для своих целей.

ИИ может представлять собой новую среду для потенциального регулирования со стороны законодателей, но персональные данные давно питают цифровую экономику. (Ирония в том, что Anthropic — это ИИ-компания, которая пообещала не использовать персонализированную рекламу для заработка, несмотря на то, что могли намекнуть её ответы Сандерсу.)

Хотя общая беседа Сандерса и Клода не впечатлит тех, кто понимает, как работают ИИ-чаты, ей можно поставить в заслугу рождение отличных новых мемов.

* Meta, Facebook и Instagram запрещены в России.