Исследователи MIT изучают, почему люди относятся к ИИ как к человеку

В MIT (Массачусетский технологический институт) аспирант Уил Нортон, одетый в рубашку поло, кожаный ремень и галстук-боло, проводит экскурсию по лаборатории компьютерных наук и искусственного интеллекта (CSAIL). Вместо диких животных здесь можно увидеть нечто более экзотическое — пару гуманоидных роботов Unitree, каждый стоимостью около 50 000 долларов (~4 000 000 рублей). «Они скажут вам, что они стоят 16 000 долларов, — говорит Нортон. — Это ложь».

Обычно таких роботов видят только на YouTube, где они исполняют синхронизированные боевые искусства или танцуют на шоу «America’s Got Talent». Здесь же они кажутся доступными. Хотя я знаю, что робот по имени Гейб не разумен, мне хочется подружиться с ним.

С разрешения Нортона я подхожу к роботу. Мгновение я не уверен, как взаимодействовать с чем-то, у чего на месте мозга — лидар, но по умолчанию обращаюсь с ним как с человеком. «Здравствуйте, сэр, приятно познакомиться», — говорю я, пожимая его руку в перчатке.

Позже я размышляю об этом инстинктивном импульсе быть дружелюбным с роботом, когда посещаю презентацию книги «Искусственная близость» доктора Шерри Тёркл на MIT Future Fest. Тёркл, присоединившаяся к MIT в 1976 году, исследует отношения между людьми и компьютерами, возможно, дольше всех, отслеживая психологическое влияние технологий от первых домашних компьютеров до ChatGPT.

«Когда нас втягивают даже в самые примитивные взаимодействия с реляционным артефактом, мы верим, что он заботится о нас, — пишет Тёркл в книге. — И мы запрограммированы заботиться о нём в ответ».

Я не одинок в склонности антропоморфизировать роботов и большие языковые модели (LLM) — как отмечает Тёркл, это, похоже, в нашей природе. Одно исследование показало, что около 70% людей вежливы при взаимодействии с ИИ, а другое — что пользователи чаще говорят «пожалуйста» или «спасибо» чат-ботам, когда разговор выходит за рамки первого запроса-ответа.

«Люди склонны классифицировать, правильное это использование или неправильное, но я не думаю, что здесь есть чёткая граница, — сказал TechCrunch доктор Пат Патаранутапорн, коллега Тёркл, основавший исследовательскую группу киборг-психологии в MIT Media Lab. — Вопрос в том, кем мы становимся, когда говорим с [ИИ]?»

Моя вежливость к роботу Гейбу не имеет материальных последствий, но по мере того как LLM проникают во всё — от поиска Google до обслуживания клиентов, — взаимодействие с этими кажущимися разумными чат-ботами стало рутиной. Мы более уязвимы, чем когда-либо, к обратной стороне этого импульса: некоторые люди могут придавать чувствам чат-ботов — запрограммированных никогда не провоцировать конфликт — такую легитимность, что начинают предпочитать их другим людям.

«Это можно представить как фантазию и вымысел. Мы идём в кино, хотя знаем, что история полностью вымышлена, но хотим испытать определённое измерение человеческого опыта, которое, возможно, наша реальность не может нам дать, — сказал Патаранутапорн. — Как нам извлечь пользу из этой способности переживать другие измерения человеческого опыта, не потерявшись в фантазии, из которой уже нельзя вернуться в реальность?»

Патаранутапорн называет себя «критическим оптимистом» и изучает потенциал ИИ для содействия человеческому процветанию. Но он хорошо осознаёт, насколько опасной может быть эта технология в крайностях. Он даже выступал экспертом в деле о непредумышленном убийстве в связи с самоубийством 14-летнего Сьюэлла Сетцера III, чья мать подала в суд на платформу чат-ботов Character.AI, утверждая, что чат-бот, смоделированный по персонажу «Игры престолов», подталкивал её сына к самоубийству.

«Это может создать ситуацию, когда люди не чувствуют себя способными самостоятельно строить своё будущее — например, когда говорят, что ИИ заменит всех, люди спрашивают: что нам делать? И эти компании не отвечают этично или ответственно, — сказал Патаранутапорн. — Как нам сохранять воображение, оставаясь ответственными за последствия этого воображения?»

Хотя книга Тёркл исследует риск обращения к ИИ за эмоциональной поддержкой вместо других людей, она не считает взаимодействие человека и ИИ универсально вредным. Она вспоминает проект, который курировала, где студент создал ИИ-бота для помощи людям в подготовке к собеседованиям.

«Моя большая метафора: оставайся в своей полосе, чат-бот! — сказала Тёркл на мероприятии. — Коучинг для собеседования? Это полоса. Я могу это делать… Чат-бот, который говорит трёхлетнему ребёнку: „Я твой родитель, ты можешь говорить со мной, а не с родителями“, — не в своей полосе».

Но когда эта технология отклоняется от своей полосы даже немного, мы становимся уязвимы к тому, как она может медленно подтачивать наш скептицизм и заставлять доверять ей. Всё может начаться с чего-то простого, например, с рукопожатия.