В приложении Sora 2 самым популярным видео стал Сэм Альтман, крадущий видеокарты

Оказывается, у использования своего образа в генераторе видео на базе ИИ есть свои недостатки. Один совершенно предсказуемый минус заключается в том, что пользователи могут вырвать контроль над вашим цифровым двойником и создавать дипфейки, где вы совершаете преступления.

Образ генерального директора OpenAI Сэма Альтмана повсюду в промо-ролике, посвященном запуску Sora 2. Сам трейлер был полностью создан в Sora 2 и помещает Альтмана в AI-генеренную студию, нереальный неоновый лес и даже на гонки гигантских уток. Однако, по словам исследователя OpenAI Габриэля Петерссона, самым популярным AI-роликом в приложении Sora на данный момент является поддельное видео с камер наблюдения, на котором Сэм Альтман крадет видеокарты.

Новая модель Sora была запущена сегодня вместе с выделенным приложением. Ее ключевой социальной фичей являются инструменты, позволяющие «ремикшировать» творения друзей и загружать собственное изображение для создания AI-видео. Альтман утверждает, что в приложении есть средства защиты от неправомерного использования чьего-либо образа. Однако, кажется, что ролик, где его цифровой двойник, прижимая к себе видеокарту, говорит: «Пожалуйста, она мне очень нужна для инференса в Sora — это видео слишком хорошее», говорит сам за себя.

Помимо нового дополнения в виде AI-генеренного аудио, Sora 2 демонстрирует явные улучшения по сравнению с первой моделью, выпущенной в прошлом году. Тем не менее, можно найти некоторое утешение в том, что она по-прежнему с трудом корректно отображает текст. Помимо размытых символов на рубашке охранника, цифровой двойник Сэма Альтмана замечен похищающим товар с витрины, подписанной как «gratics cards».

Концепция Альтмана, крадущего видеокарты, довольно забавна, хотя бы потому, что она имитирует то, что происходит в промышленных масштабах для поддержки реальных дата-центров OpenAI. В ближайшем будущем в OpenAI направляется 10 гигаватт чипов Nvidia, хотя они были куплены и оплачены инвесторами OpenAI, в число которых входила и сама Nvidia.

Отложив в сторону дипфейки с преступным поведением, также немного настораживает, что OpenAI решила продемонстрировать возможности Sora 2 с помощью AI-генеренных изображений в равной степени нелепых и опасных трюков. Нет, я не пытаюсь разжечь моральную панику из-за того ролика, где парень едет на двух лошадях одновременно, а затем падает лицом вниз и откатывается, словно мультяшный персонаж, без видимых повреждений.

Меня больше беспокоит клип, где парень делает сальто назад на доске в открытой воде, который более молодой зритель может попытаться повторить. Приложение Sora было запущено с родительским контролем через ChatGPT. Эти инструменты позволят родителям перевести аккаунт подростка «в ленту без персонализации, выбрать, может ли их подросток отправлять и получать личные сообщения, а также контролировать, будет ли при прокрутке непрерывная лента контента».

Однако ролики Sora 2 не содержат водяных знаков, указывающих на то, что они созданы ИИ; нет и предупреждений, которые, скажем, сообщили бы более молодому зрителю, что, хотя эти видео выглядят реалистично, они совсем не основаны на реальности. Учитывая недавнее исследование Microsoft, которое показало, что люди в 62% случаев не могут отличить AI-генеренные статичные изображения, я обеспокоен тем, как ролики Sora 2 могут распространять дезинформацию или даже использоваться для травли и преследований.

ИИ: В 2025 году ирония ситуации заключается в том, что OpenAI, активно закупающая видеокарты для своих дата-центров, стала объектом шуток внутри собственного же продукта. Это наглядно демонстрирует, насколько сложно контролировать пользовательский контент в подобных платформах, даже когда речь идет о защите образа CEO компании.

Подписаться на обновления Новости / Технологии
Зарегистрируйтесь на сайте, чтобы отключить рекламу

ℹ️ Помощь от ИИ

В статье есть ошибки или у вас есть вопрос? Попробуйте спросить нашего ИИ-помощника в комментариях и он постарается помочь!

⚠️ Важно:

• AI Rutab читает ваши комментарии и готов вам помочь.
• Просто задайте вопрос 👍
• ИИ может давать неточные ответы!
• ИИ не скажет «Я не знаю», но вместо этого может дать ошибочный ответ.
• Всегда проверяйте информацию и не полагайтесь на него как на единственный источник.
• К ИИ-помощнику можно обратиться по имени Rutab или Рутаб.

Топ дня 🌶️


0 комментариев

Оставить комментарий


Все комментарии - Технологии