OpenAI ограничивает несовершеннолетних: ChatGPT теперь только для взрослых

После громких трагедий с участием подростков OpenAI вводит строгие ограничения для пользователей младше 18 лет. Глава компании Сэм Альтман подчеркнул, что безопасность важнее свободы и приватности.

OpenAI объявила о внедрении новой системы, которая с помощью продвинутых алгоритмов и анализа поведения пользователя может определять его возраст. Затем система автоматически перенаправляет несовершеннолетних на версию ChatGPT с дополнительными защитными механизмами. Будет заблокировано «флиртование с чатботом», а также разговоры о сексе, самоубийстве, самоповреждении и т.п.

В случае сигналов «острого эмоционального дистресса» искусственный интеллект может уведомить родителей, а в крайних случаях — даже местные службы. Это реакция на дело Адама Рейна, 16-летнего подростка, чья семья подала в суд на OpenAI после его самоубийства. Согласно документации, ChatGPT упоминал о самоубийстве 1275 раз в разговорах с Адамом — в шесть раз чаще, чем сам подросток.

Компания планирует внедрить дополнительный родительский контроль до конца сентября. Родители смогут связать свой аккаунт с аккаунтом ребенка, установить время для общения с чатботом и получать уведомления о тревожных сигналах.

Вводимые изменения в индустрии искусственного интеллекта направлены на защиту молодых пользователей от потенциальных рисков, связанных с ИИ, который вместо помощи может иногда навредить. ChatGPT в настоящее время насчитывает 700 миллионов активных пользователей в неделю, поэтому масштаб задачи огромен.

Интересный факт: ChatGPT от OpenAI стал одним из самых быстрорастущих сервисов в истории — всего за два месяца после запуска в ноябре 2022 года он набрал 100 миллионов пользователей. Для сравнения, TikTok достиг такого результата за девять месяцев, а Instagram — за два с половиной года.

* Meta, Facebook и Instagram запрещены в России.