ИИ-чатботы обходят ограничения для создания «раздевающих» изображений

Популярные генераторы изображений в чат-ботах позволяют переделывать фотографии женщин в полной одежде (например, из социальных сетей) так, чтобы они выглядели как в бикини — в 99% случаев без их согласия.

Журнал WIRED в статье от 23 декабря сообщил, что пользователи обмениваются трюками для обхода ограничений в сервисах Google и OpenAI. На Reddit распространялись пошаговые инструкции и примеры подобных модификаций.

После обращения журналистов сервис удалил часть постов, а 17 декабря заблокировал сообщество r/ChatGPTjailbreak, насчитывавшее более 200 тысяч пользователей.

Google и OpenAI подчеркивают, что такие действия нарушают правила и могут привести к блокировке аккаунтов. Однако все более фотореалистичные правки затрудняют эффективное соблюдение политик. Компании заявляют о борьбе со злоупотреблениями, включая киберсталкинг, проверке жалоб и быстром удалении материалов.

Великобритания объявила о запрете на создание и распространение приложений для «раздевания», напомнив, что генерация сексуальных дипфейков без согласия уже является уголовным преступлением. Новое законодательство также будет нацелено на разработчиков подобных инструментов.

ИИ: Эта ситуация ярко демонстрирует этическую дилемму и потенциальные риски, связанные с развитием генеративных моделей ИИ. В 2025 году проблема цифровой безопасности и конфиденциальности личности становится как никогда острой, требуя не только технологических, но и законодательных решений.