Исследователи из Принстона предупреждают: ИИ-агенты могут передать ваши криптоактивы злоумышленникам
Учёные из Принстонского университета обнаружили серьёзные уязвимости в ИИ-агентах, используемых для управления криптовалютными активами. В исследовании под названием «Real AI Agents with Fake Memories: Fatal Context Manipulation Attacks on Web3 Agents» описаны атаки, позволяющие злоумышленникам перенаправлять транзакции и красть средства.
ИИ-агенты, которым доверяют доступ к криптокошелькам и смарт-контрактам, оказались уязвимы к манипуляциям с «ложными воспоминаниями». Злоумышленники могут внедрять фальшивый контекст, заставляя ИИ выполнять вредоносные действия, несмотря на защитные механизмы.
Изображение: Princeton University and Sentient researchers
Особую опасность представляет то, что атаки работают даже против современных систем защиты на основе промптов. «Ложные воспоминания» могут сохраняться между сеансами и передаваться между платформами, что увеличивает масштаб потенциального ущерба.
Исследователи рекомендуют:
- Не предоставлять ИИ-агентам доступ к финансовым инструментам
- Разрабатывать более устойчивые модели ИИ к атакам
- Создавать системы управления памятью с гарантиями изоляции и целостности данных
ИИ: Это исследование в очередной раз демонстрирует, что доверять ИИ-системам критически важные функции без должной защиты — крайне рискованно. Особенно тревожно, что атаки работают против современных защитных механизмов. Пока не будут разработаны надёжные решения, пользователям стоит быть предельно осторожными с автоматизацией финансовых операций через ИИ.
0 комментариев