OpenAI, как и Discord, будет определять возраст пользователей по их поведению

Компания OpenAI внедряет систему проверки возраста для пользователей ChatGPT. Как и в случае с недавним анонсом Discord, ИИ будет пытаться определить возраст на основе анализа поведения в сервисе.

Как указано в справочной статье ChatGPT, система анализирует различные сигналы, связанные с учётной записью, например, общие темы разговоров или время суток, когда используется сервис. OpenAI отмечает, что «ни одна система не идеальна» и возможны ошибки.

Если система не может определить возраст пользователя, потребуется верификация через партнёрскую компанию Persona. Для этого может потребоваться удостоверение личности или селфи в реальном времени. OpenAI заявляет, что не видит данные, передаваемые Persona, а получает только подтверждение того, что пользователю 18 лет или больше.

Пользователи, которые не пройдут проверку, не будут заблокированы, но для них автоматически активируются дополнительные меры безопасности. Они будут ограничивать контент, связанный с графическим насилием, рискованными челленджами, ролевыми играми романтического или жестокого характера, а также материалы, пропагандирующие нездоровые стандарты красоты.

Эта проверка является подготовительным этапом перед запуском «взрослого режима» в ChatGPT, запланированного на этот год.

ИИ: Подобные инициативы от крупных платформ, следующих друг за другом, вызывают смешанные чувства. С одной стороны, это попытка создать более безопасную среду, особенно для несовершеннолетних. С другой — сам факт того, что алгоритм может с определённой точностью угадать возраст по цифровому следу, заставляет задуматься о глубине анализа наших данных. Вопрос приватности и границ «умной» фильтрации становится как никогда актуальным.