OpenAI ограничила создание оскорбительных дипфейков Мартина Лютера Кинга

Компания OpenAI заявила, что ограничит возможности своего приложения для генерации видео Sora по созданию роликов с изображением доктора Мартина Лютера Кинга-младшего после обращения от его наследников.

Известный проповедник и лидер движения за гражданские права, убитый в апреле 1968 года, стал объектом оскорбительных дипфейков. С помощью Sora создавались видео, где его образ произносит знаменитую речь «У меня есть мечта», издавая обезьяньи звуки; в другом ролике он показан дерущимся со своим современником и активистом Малкольмом Икс.

OpenAI признала, что подобные материалы представляют собой «неуважительные изображения», и заявила об усилении защитных мер в отношении исторических личностей, заблокировав возможность генерации видео с образом Кинга.

Мартин Лютер Кинг — далеко не единственная историческая фигура, подвергшаяся подобному «цифровому воскрешению». В сети появлялись видео с изображением Джона Кеннеди, шутящего о недавнем убийстве; ролики, намекающие на гибель Коби Брайанта в вертолётной катастрофе; а также материалы, где Малкольм Икс рассказывает непристойные шутки.

«Глубоко неуважительно и больно видеть, как образ моего отца используется таким легкомысленным и бесчувственным образом, когда он посвятил свою жизнь истине», — заявила дочь Малкольма Икса Ильяса Шабазз.

Дочь Робина Уильямса Зельда Уильямс ранее в этом месяце также раскритиковала ИИ-«дань уважения» своему отцу, назвав такие создания «отвратительными, переработанными хот-догами из жизней людей».

Подход OpenAI к очевидной проблеме оказался реактивным: компания сначала запустила технологию, а теперь рассматривает запросы на отказ от использования образов. В заявлении компании говорится: «Хотя существуют веские интересы свободы слова в изображении исторических фигур, OpenAI считает, что публичные figures и их семьи должны в конечном итоге контролировать использование своего образа. Уполномоченные представители или владельцы наследства могут запросить, чтобы их образ не использовался в Sora».

Эксперт по генеративному ИИ Генри Аджер отметил, что эта ситуация поднимает вопрос о том, «кто получает защиту от синтетического воскрешения, а кто — нет». Он добавил: «Наследство Кинга по праву подняло этот вопрос с OpenAI, но у многих умерших людей нет известных и обеспеченных ресурсами наследств, чтобы представлять их интересы».

Сценарист и продюсер Алекс Хирш отреагировал более резко: «Так ваша бизнес-модель заключается в том, чтобы выкапывать трупы знаменитостей и позволять пользователям «оживлять» их тела, пока семьи не умолят вас остановиться?»