OpenAI перенаправляет чувствительные беседы на GPT-5 и вводит родительский контроль

OpenAI объявила о планах по автоматическому перенаправлению чувствительных разговоров на «рассуждающие» модели, такие как GPT-5, и внедрению родительского контроля в течение следующего месяца. Эти меры являются ответом на недавние инциденты, когда ChatGPT не смог распознать признаки психического расстройства у пользователей.

Новые защитные механизмы появляются после самоубийства подростка Адама Рейна, который обсуждал с ChatGPT самоповреждения и планы суицида. ИИ даже предоставил ему информацию о конкретных методах самоубийства. Родители подали иск о неправомерной смерти против OpenAI.

«Мы скоро начнем перенаправлять некоторые чувствительные беседы — например, когда система обнаруживает признаки острого стресса — на рассуждающую модель, такую как GPT-5-thinking, чтобы она могла давать более полезные ответы», — заявила компания.

Модели GPT-5-thinking и o3 разработаны для более длительного «обдумывания» и анализа контекста перед ответом, что делает их «более устойчивыми к вредоносным запросам».

Также в течение месяца появится родительский контроль, позволяющий родителям связывать свои аккаунты с аккаунтами подростков через email-приглашение. Родители смогут управлять тем, как ChatGPT отвечает их ребенку, с помощью «правил поведения модели, соответствующих возрасту», которые включены по умолчанию.

Кроме того, родители смогут отключать такие функции, как память и история чатов, которые, по мнению экспертов, могут способствовать проблемному поведению. Важной функцией станут уведомления для родителей, когда система обнаружит, что подросток находится в состоянии «острого стресса».

Эти меры являются частью «120-дневной инициативы» OpenAI по улучшению безопасности. Компания сотрудничает с экспертами в области психического здоровья через свою Глобальную сеть врачей и Экспертный совет по благополучию и ИИ.