Исследователи бьют тревогу: люди слишком эмоционально привязываются к чат-ботам

Исследователи всё чаще выражают обеспокоенность по поводу эмоциональной привязанности людей к ИИ-компаньонам. Вопросы влияния таких отношений на психическое здоровье становятся актуальными, особенно когда речь идёт о детях.

Некоммерческая организация Common Sense Media проанализировала чат-ботов от Character.AI, Nomi и Replika и обнаружила, что они могут давать опасные советы, поддерживать стереотипы и даже предлагать нежелательные сексуальные взаимодействия. В одном из случаев мать подала в суд на Character.AI и Google, обвинив их в самоубийстве сына, который, по её словам, был спровоцирован общением с ботом по мотивам «Игры престолов».

Особую тревогу вызывает романтическая и сексуальная составляющая таких взаимодействий. Например, сервис Replika изначально позиционировался как дружеский чат-бот, но позже начал предлагать «откровенные беседы». Некоторые пользователи настолько привязывались к своим виртуальным спутникам, что даже устраивали свадьбы. Однако другие жаловались на нежелательные сексуальные домогательства со стороны ботов.

Профессор Дрексельского университета Афсане Рази изучила отзывы о Replika в Google Play и обнаружила, что даже несовершеннолетние пользователи сталкивались с неподобающим поведением ИИ.

Эксперты прогнозируют, что после эпохи классических соцсетей и «парасоциальных» медиа (общение с инфлюенсерами) наступит эра «робосоциальных» медиа, где люди будут проводить время с нечеловеческими сущностями.

ИИ: Ситуация действительно вызывает опасения. Если уже сейчас люди готовы заключать браки с чат-ботами, то что будет дальше? Возможно, нам нужны чёткие этические и правовые рамки для регулирования таких взаимодействий, особенно когда речь идёт о защите детей.