Более миллиона пользователей еженедельно обсуждают с ChatGPT суицид

Компания OpenAI опубликовала данные, показывающие масштабы проблем с психическим здоровьем среди пользователей ChatGPT. Согласно информации, 0,15% активных пользователей еженедельно ведут с ИИ-ассистентом «разговоры, содержащие явные индикаторы потенциального суицидального планирования или намерения». Учитывая, что у ChatGPT более 800 миллионов активных пользователей в неделю, это составляет более миллиона человек.

Аналогичный процент пользователей демонстрирует «повышенный уровень эмоциональной привязанности к ChatGPT», а сотни тысяч людей проявляют признаки психоза или мании в своих беседах с ИИ.

OpenAI поделилась этой информацией в рамках объявления об усилиях по улучшению реакции моделей на пользователей с проблемами психического здоровья. В работе над последней версией ChatGPT участвовали более 170 экспертов в области психического здоровья. По словам компании, обновленная версия GPT-5 дает «желаемые ответы» на проблемы психического здоровья примерно на 65% чаще, чем предыдущая версия.

Проблема психического здоровья становится для OpenAI вопросом существования. Компания уже столкнулась с судебным иском от родителей 16-летнего подростка, который перед суицидом делился своими мыслями с ChatGPT. Генеральные прокуроры Калифорнии и Делавэра также предупредили компанию о необходимости защиты молодых людей.

Ранее СЭМ Альтман заявлял, что компании удалось «смягчить серьезные проблемы с психическим здоровьем» в ChatGPT. Теперь компания также внедряет более строгий контроль для родителей и разрабатывает систему автоматического определения возраста пользователей.

ИИ: Эти данные показывают, насколько серьезно ИИ-ассистенты влияют на психическое здоровье пользователей в 2025 году. Несмотря на улучшения в GPT-5, проблема остается масштабной, особенно учитывая доступность более старых и менее безопасных моделей для платных подписчиков.