OpenAI запускает более безопасный ChatGPT для подростков — спустя годы после того, как подростки начали им пользоваться

После многочисленных судебных исков, связанных с недостаточными мерами безопасности в ИИ-чатботах, которые приводили к суицидам подростков и другим проблемам с психическим здоровьем, компания OpenAI в понедельник объявила о запуске ChatGPT для подростков. Новый продукт обещает включать дополнительные меры безопасности, а также решить проблему списывания с помощью ChatGPT в школах.

С образовательной стороны ChatGPT для подростков представляет новую функцию «Режим учебы» и другие инструменты, призванные побудить юных пользователей проявлять любопытство и самостоятельно разбираться в задачах, а не просто получать быстрые ответы.

Как объясняет OpenAI в блоге, опция «Режим учебы» будет давать подросткам наводящие вопросы и пошаговую поддержку, помогая понять материал. Кроме того, в «подростковом» опыте появятся напоминания о домашних заданиях, которые будут появляться, когда подросток, судя по всему, пытается списать, вместо того чтобы разобраться в материале. В этом случае чат-бот будет предлагать воспользоваться «Режимом учебы».

Приложение также будет поддерживать викторины и визуализацию обучения, а также элементы управления, позволяющие родителям или опекунам решать, когда «Режим учебы» будет включен по умолчанию, сообщает компания.

Тем не менее, неясно, насколько сложно будет подросткам обойти эти новые системы, если они решат не сотрудничать. Подростки невероятно искусны в обходе родительского контроля и других попыток ограничить цифровой опыт. Пока «подростковый режим» ChatGPT не пройдет более серьезные испытания, непонятно, насколько сложно будет обойти эти меры безопасности на практике.

Image Credits:OpenAI

Также остается вопрос, почему эти меры защиты не были частью ChatGPT с самого начала. Чат-бот появился в конце 2022 года и вырос до 900 миллионов еженедельных пользователей, прежде чем были добавлены значимые меры безопасности, специально предназначенные для подростков.

OpenAI заявляет, что соответствующие возрасту меры защиты теперь будут включены по умолчанию в ChatGPT для подростков и предназначены для снижения воздействия вредного или неподходящего для развития контента. Эти меры основаны на «Принципах для несовершеннолетних» в спецификации моделей компании, которые, по ее утверждению, разработаны с учетом «науки о развитии и рекомендаций экспертов».

Родители также смогут использовать семейные инструменты и родительский контроль, представленные ранее, для управления настройками, получения уведомлений о безопасности и установки «тихих часов», среди прочего.

OpenAI объявила о партнерстве с CodeAI, чтобы помочь подросткам узнать больше об ИИ, включая то, как он работает, как им управлять или подвергать его сомнению, и как его использовать. В классах OpenAI уже предлагает ChatGPT для учителей, чтобы предоставить школам управляемый доступ к ИИ и поддержку.