Скандал с deepfake. Apple чуть не удалила Grok из App Store

В начале 2026 года Apple всерьёз рассматривала возможность удаления приложения Grok из App Store.

Причиной стали многочисленные случаи генерации ИИ-системой сексуальных дипфейков, часто изображающих женщин, а также потенциально несовершеннолетних лиц.

Ситуация была настолько серьёзной, что Apple официально связалась с командами, стоящими за Grok и платформой X, потребовав немедленного улучшения модерации контента. Компания сочла, что приложение нарушает правила App Store, и пригрозила его удалением, если проблема не будет решена.

Скандал вокруг Grok не был случайным. За короткое время пользователи начали массово использовать ИИ для создания «раздевающих» изображений реальных людей, что вызвало глобальный резонанс и реакцию регуляторов и общественных организаций.

В итоге Apple не заблокировала приложение, так как сочла, что внесённые изменения «значительно улучшили ситуацию». Проблема в том, что защитные меры до сих пор не полностью эффективны. Генерация скандального контента всё ещё возможна, хотя и стала сложнее, чем раньше.

Это один из первых настолько громких случаев, когда платформа распространения приложений реально пригрозила удалением ИИ-сервиса. И весьма вероятно, что это только начало, ведь война за контроль над генеративным искусственным интеллектом только начинается.