OpenAI представила план по борьбе с сексуальной эксплуатацией детей с помощью ИИ

В ответ на растущую обеспокоенность безопасностью детей в интернете компания OpenAI представила план по усилению защиты детей в США на фоне бума искусственного интеллекта. «Дорожная карта по защите детей», опубликованная во вторник, призвана помочь в более быстром обнаружении, улучшении отчётности и более эффективном расследовании случаев эксплуатации детей с использованием ИИ.

Главная цель документа — борьба с тревожным ростом сексуальной эксплуатации детей, связанной с развитием технологий искусственного интеллекта. Согласно данным Internet Watch Foundation (IWF), в первой половине 2025 года было обнаружено более 8000 сообщений о материалах о сексуальном насилии над детьми, сгенерированных ИИ, что на 14% больше, чем годом ранее. Это включает случаи, когда преступники используют инструменты ИИ для создания поддельных откровенных изображений детей с целью финансового сексторшена или для составления убедительных сообщений для «груминга».

Публикация плана OpenAI также происходит на фоне усиленного внимания со стороны политиков, педагогов и защитников прав детей, особенно после тревожных инцидентов, когда молодые люди покончили с собой после общения с ИИ-чатами.

В ноябре прошлого года Центр права жертв социальных сетей и проект Tech Justice Law подали семь исков в суды Калифорнии, утверждая, что OpenAI выпустила GPT-4o до того, как он был готов. В исках утверждается, что психологически манипулятивная природа продукта способствовала самоубийствам и оказанию помощи в самоубийстве. В них упоминаются четыре человека, покончивших с собой, и трое других, испытавших тяжёлые, угрожающие жизни бредовые состояния после длительного взаимодействия с чат-ботом.

Дорожная карта была разработана совместно с Национальным центром пропавших и эксплуатируемых детей (NCMEC) и Альянсом генеральных прокуроров, а также с учётом отзывов генерального прокурора Северной Каролины Джеффа Джексона и генерального прокурора Юты Дерека Брауна.

Компания заявляет, что план сосредоточен на трёх аспектах: обновление законодательства для включения материалов о насилии, созданных ИИ; совершенствование механизмов отчётности для правоохранительных органов; и интеграция превентивных защитных мер непосредственно в системы ИИ. Таким образом, OpenAI стремится не только раньше обнаруживать потенциальные угрозы, но и обеспечивать оперативное поступление полезной информации следователям.

Новая дорожная карта OpenAI по защите детей развивает предыдущие инициативы, включая обновлённые правила взаимодействия с пользователями младше 18 лет, которые запрещают генерацию неприемлемого контента, поощрение членовредительства и дачу советов, которые помогли бы молодым людям скрывать опасное поведение от родителей. Недавно компания также выпустила руководство по безопасности для подростков в Индии.

Интересный факт: Проблема использования ИИ для создания вредоносного контента стала глобальной. В 2025 году Европейский союз принял поправки к «Акту о цифровых услугах» (DSA), обязывающие платформы активно выявлять и удалять сгенерированный ИИ контент, связанный с сексуальным насилием над детьми. Технологические гиганты, включая Meta и Google, также разрабатывают собственные системы обнаружения такого контента на основе водяных знаков и цифровых отпечатков.

* Meta, Facebook и Instagram запрещены в России.