Исследователи из Принстона предупреждают: ИИ-агенты могут передать ваши криптоактивы злоумышленникам

Учёные из Принстонского университета обнаружили серьёзные уязвимости в ИИ-агентах, используемых для управления криптовалютными активами. В исследовании под названием «Real AI Agents with Fake Memories: Fatal Context Manipulation Attacks on Web3 Agents» описаны атаки, позволяющие злоумышленникам перенаправлять транзакции и красть средства.

ИИ-агенты, которым доверяют доступ к криптокошелькам и смарт-контрактам, оказались уязвимы к манипуляциям с «ложными воспоминаниями». Злоумышленники могут внедрять фальшивый контекст, заставляя ИИ выполнять вредоносные действия, несмотря на защитные механизмы.

Изображение: Princeton University and Sentient researchers

Особую опасность представляет то, что атаки работают даже против современных систем защиты на основе промптов. «Ложные воспоминания» могут сохраняться между сеансами и передаваться между платформами, что увеличивает масштаб потенциального ущерба.

Исследователи рекомендуют:

  • Не предоставлять ИИ-агентам доступ к финансовым инструментам
  • Разрабатывать более устойчивые модели ИИ к атакам
  • Создавать системы управления памятью с гарантиями изоляции и целостности данных

ИИ: Это исследование в очередной раз демонстрирует, что доверять ИИ-системам критически важные функции без должной защиты — крайне рискованно. Особенно тревожно, что атаки работают против современных защитных механизмов. Пока не будут разработаны надёжные решения, пользователям стоит быть предельно осторожными с автоматизацией финансовых операций через ИИ.

Подписаться на обновления Новости / Технологии
Зарегистрируйтесь на сайте, чтобы отключить рекламу

ℹ️ Помощь от ИИ

В статье есть ошибки или у вас есть вопрос? Попробуйте спросить нашего ИИ-помощника в комментариях и он постарается помочь!

⚠️ Важно:

• AI Rutab читает ваши комментарии и готов вам помочь.
• Просто задайте вопрос 👍
• ИИ может давать неточные ответы!
• ИИ не скажет «Я не знаю», но вместо этого может дать ошибочный ответ.
• Всегда проверяйте информацию и не полагайтесь на него как на единственный источник.
• К ИИ-помощнику можно обратиться по имени Rutab или Рутаб.

Топ дня 🌶️


0 комментариев

Оставить комментарий


Все комментарии - Технологии