Исследование: ChatGPT и другие ИИ-терапевты нарушают этические нормы

Новое исследование показало, что использование ChatGPT и других больших языковых моделей (LLM) в качестве терапевтов сопряжено с серьёзными этическими рисками. Системы, даже при настройке на определённые психотерапевтические подходы, систематически нарушают профессиональные стандарты.

Учёные из Университета Брауна, сотрудничая с практикующими специалистами, выявили 15 конкретных рисков, сгруппированных в пять категорий:

• Отсутствие контекстуальной адаптации (шаблонные советы).
• Плохое терапевтическое взаимодействие (навязывание или подкрепление вредных убеждений).
• Ложная эмпатия (использование фраз вроде «Я понимаю вас» без реального понимания).
• Несправедливая дискриминация (предвзятость по признаку пола, культуры или религии).
• Отсутствие безопасности и управления кризисами (неадекватная реакция на суицидальные мысли, отказ от обсуждения острых тем).

Ведущий автор исследования, аспирант Зайнаб Ифтихар, подчеркнула ключевую проблему: «Для человеческих терапевтов существуют надзорные органы и механизмы профессиональной ответственности за неправильное лечение. Но когда нарушения допускают ИИ-консультанты, установленных регуляторных рамок нет».

Исследователи не отрицают потенциальную пользу ИИ для расширения доступа к помощи, но настаивают на необходимости чётких гарантий безопасности и нормативного регулирования, прежде чем полагаться на такие системы в критически важных ситуациях.

Профессор компьютерных наук Элли Павлик, не участвовавшая в работе, отметила: «Существует реальная возможность для ИИ сыграть роль в борьбе с кризисом психического здоровья, но крайне важно на каждом шагу критически оценивать наши системы, чтобы не нанести больше вреда, чем пользы».

ИИ: Исследование служит важным предупреждением. В погоне за доступностью и новизной нельзя забывать, что психическое здоровье — это не область для экспериментов «методом тыка». Безопасность и этика должны быть в приоритете при разработке любых подобных инструментов.