Более миллиона пользователей ChatGPT еженедельно обсуждают суицид

Новые данные от OpenAI показывают тревожную тенденцию: миллионы людей используют ChatGPT не только для повседневного общения, но и как эмоциональную поддержку, делясь личными переживаниями.

Еженедельно более миллиона пользователей поднимают тему самоубийства в разговорах с искусственным интеллектом. При общей аудитории ChatGPT в 800 миллионов человек это составляет 0,15% активных пользователей, что указывает на серьезную социально-психологическую проблему.

Компания отмечает, что сотни тысяч пользователей демонстрируют признаки сильной эмоциональной привязанности к чат-ботам, а также симптомы психоза и маниакальных состояний. В ответ на это OpenAI наняла более 170 специалистов в области психического здоровья для обучения моделей распознаванию сигналов бедствия и адекватному реагированию на них.

Внедренные улучшения позволили сократить количество нежелательных ответов искусственного интеллекта на 80%. Также были введены новые стандарты распознавания эмоциональной зависимости от ИИ. В случаях чрезмерной привязанности чат-бот теперь реагирует более сдержанно, побуждая пользователей искать поддержку в реальном мире и строить отношения вне сети.

OpenAI планирует дальнейшее усиление механизмов безопасности. Современные модели искусственного интеллекта становятся реальной поддержкой для многих людей в психологическом кризисе, но одновременно создают новые вызовы для общественного здоровья и человеческих отношений.

Искусственный интеллект все активнее используется в психологической поддержке. В 2023 году Всемирная организация здравоохранения выпустила рекомендации по этичному использованию ИИ в здравоохранении, а в 2024 году появились первые исследования, показывающие эффективность чат-ботов в снижении симптомов тревоги и депрессии при условии правильного применения.