OpenAI вводит новые ограничения для несовершеннолетних пользователей ChatGPT

Генеральный директор OpenAI Сэм Альтман объявил во вторник о ряде новых пользовательских политик, включая обязательство значительно изменить то, как ChatGPT взаимодействует с пользователями младше 18 лет.

«Мы ставим безопасность выше конфиденциальности и свободы для подростков», — говорится в сообщении. — «Это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в значительной защите».

Изменения для несовершеннолетних пользователей касаются особенно бесед на сексуальные темы или связанных с самоповреждением. Согласно новой политике, ChatGPT будет обучен больше не вступать в «флиртующие разговоры» с несовершеннолетними пользователями, а вокруг обсуждений суицида будут установлены дополнительные защитные барьеры. Если несовершеннолетний пользователь будет использовать ChatGPT для представления суицидальных сценариев, служба попытается связаться с его родителями или, в особенно серьезных случаях, с местной полицией.

К сожалению, эти сценарии не являются гипотетическими. OpenAI в настоящее время сталкивается с иском о неправомерной смерти от родителей Адама Рейна, который покончил с собой после месяцев взаимодействия с ChatGPT. Character.AI, другой потребительский чат-бот, также столкнулся с аналогичным иском. Хотя риски особенно актуальны для несовершеннолетних пользователей, задумывающихся о самоповреждении, более широкий феномен бредовых состояний, подпитываемых чат-ботами, вызвал широкую озабоченность, особенно поскольку потребительские чат-боты стали способны на более продолжительное и детальное взаимодействие.

Наряду с ограничениями по содержанию, родители, которые регистрируют учетную запись для несовершеннолетнего пользователя, получат возможность устанавливать «часы отключения», в течение которых ChatGPT будет недоступен — функция, которая ранее отсутствовала.

Новые политики ChatGPT были представлены в тот же день, что и слушания в Комитете Сената по судебной системе под названием «Изучение вреда ИИ-чат-ботов», объявленные сенатором Джошем Хоули (республиканец от Миссури) в августе. Отец Адама Рейна должен выступить на слушаниях среди других гостей.

Слушания также будут сосредоточены на выводах расследования Reuters, которое раскрыло документы политики, по-видимому, поощряющие сексуальные разговоры с несовершеннолетними пользователями. Meta обновила политику своих чат-ботов после этого отчета.

Отделение несовершеннолетних пользователей станет серьезной технической задачей, и OpenAI подробно описала свой подход в отдельном сообщении блога. Сервис «движется к созданию долгосрочной системы для понимания, кому больше или меньше 18 лет», но во многих неоднозначных случаях система будет по умолчанию применять более строгие правила. Для обеспокоенных родителей наиболее надежный способ обеспечить распознавание несовершеннолетнего пользователя — привязать учетную запись подростка к существующей родительской учетной записи. Это также позволяет системе напрямую предупреждать родителей, когда считается, что пользователь-подросток находится в бедственном положении.

Но в том же сообщении Альтман подчеркнул продолжающуюся приверженность OpenAI конфиденциальности пользователей и предоставлению взрослым пользователям широкой свободы в выборе способов взаимодействия с ChatGPT.

«Мы понимаем, что эти принципы конфликтуют, — заключает сообщение, — и не все согласятся с тем, как мы разрешаем этот конфликт».

Если вам или кому-то из ваших знакомых нужна помощь, позвоните по номеру 1-800-273-8255 в Национальную линию спасения от самоубийств (США). Вы также можете отправить текстовое сообщение HOME на номер 741-741 для бесплатной круглосуточной поддержки от Crisis Text Line или отправить текстовое сообщение или позвонить по номеру 988. За пределами США посетите Международную ассоциацию по предотвращению самоубийств для получения базы данных ресурсов.

* Meta, Facebook и Instagram запрещены в России.