С сентября в Китае будет введена четкая маркировка всего контента, созданного с помощью ИИ

16 марта 2025, 19:27 / Технологии → Новости / Технологии

Национальный интернет-цензор Коммунистической партии Китая (КПК) только что объявил, что весь контент, сгенерированный ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

, должен получит метки, которые явно видны или слышны его аудитории и встроены в метаданные. Администрация киберпространства Китая (CAC) только что опубликовала стенограмму вопросов и ответов СМИ (похожую на FAQ) о своих мерах по идентификации контента, сгенерированного искусственным интеллектом и синтетического контента [машинный перевод]. Мы увидели первые признаки этого политического шага в сентябре прошлого года, когда появились проекты планов CAC.

Это положение вступает в силу 1 сентября 2025 года и обяжет всех поставщиков услуг (т. е. AI LLM) «добавлять явные метки к сгенерированному и синтезированному контенту». Директива охватывает все типы данных: текст, изображения, видео, аудио и даже виртуальные сцены. Помимо этого, она также предписывает магазинам приложений проверять, соответствуют ли размещенные ими приложения правилам.

Пользователи по-прежнему смогут запрашивать немаркированный контент, сгенерированный ИИ, для «социальных проблем и промышленных нужд». Однако генерирующее приложение должно повторить это требование пользователю, а также регистрировать информацию, чтобы ее было легче отслеживать. Ответственность за добавление сгенерированной ИИ метки и метаданных ложится на плечи этого конечного пользователя или организации.

CAC также запрещает злонамеренное удаление, фальсификацию, подделку или сокрытие этих меток AI, включая предоставление инструментов, которые помогут выполнить эти действия. Хотя это, очевидно, означает, что вам запрещено удалять метку AI и метаданные на контенте, созданном AI, он также запрещает добавление этого идентификатора для данных, созданных человеком.

КПК через CAC стремится контролировать распространение дезинформации и не допускать, чтобы интернет-пользователи были введены в заблуждение контентом, созданным ИИ, посредством применения этого закона. На данный момент мы не видели никаких предписанных наказаний для нарушителей, но всегда существует угроза судебного преследования со стороны китайского правительства.

Это не первый закон, который пытается контролировать разработку и использование технологий ИИ, и ЕС принял Закон об искусственном интеллекте в 2024 году. Многие могут негативно отреагировать на этот шаг CAC, особенно потому, что он известен тем, что администрирует Великий китайский файрвол для ограничения и контроля интернета в пределах границ Китая. Тем не менее, этот шаг поможет сократить дезинформацию от всех и каждого, особенно по мере того, как ИИ LLM становятся все более продвинутыми. Обеспечивая четкую маркировку искусственно сгенерированного контента, люди могли бы легче определять, смотрят ли они или слушают реальное событие или что-то, созданное машиной на какой-то серверной ферме.

Источник: Tomshardware.com