Cloudflare протестировала ИИ Claude Mythos и назвала его «работой старшего исследователя»

Компания Cloudflare, специализирующаяся на веб-инфраструктуре, поделилась подробностями о возможностях ИИ-модели Claude Mythos от Anthropic. В рамках проекта Project Glasswing, направленного на укрепление кибербезопасности, Cloudflare протестировала модель и пришла к выводу, что её способности к рассуждению «похожи на работу старшего исследователя».

Anthropic описывает Claude Mythos Preview как «невыпущенную фронтирную модель общего назначения», которая демонстрирует, что ИИ достиг уровня, позволяющего превзойти всех, кроме самых опытных людей, в поиске и эксплуатации уязвимостей. Project Glasswing даёт избранным технологическим компаниям, включая Amazon Web Services, Apple, Google, Microsoft, Nvidia и Cloudflare, доступ к Mythos Preview для сканирования и защиты как собственных, так и open-source систем. Anthropic выделяет на эти цели до $100 миллионов в виде кредитов.

Cloudflare впечатлена возможностями модели, отмечая, что это «реальный шаг вперёд, а не просто доработка предыдущего». Ключевое отличие Mythos Preview, по мнению компании, заключается в способности объединять незначительные уязвимости в единую, более серьёзную цепочку эксплойтов.

Среди выдающихся особенностей Mythos Cloudflare выделяет «построение цепочек эксплойтов» (умение интеллектуально комбинировать уязвимости) и «генерацию доказательств» (демонстрацию работоспособности найденного эксплойта). Впрочем, модель не идеальна: иногда она устанавливала бессмысленные ограничения, мешающие легитимным исследованиям.

Cloudflare также обнаружила, что эффективнее использовать Mythos не для тотального анализа всего кода, а для более узких, целенаправленных задач. Лучший подход — использовать несколько агентов Mythos с конкретными заданиями, а не пытаться заставить одного «суперагента» обработать всю кодовую базу.

Вместо того чтобы сосредотачиваться исключительно на быстром исправлении уязвимостей, Cloudflare рекомендует переключить внимание на архитектуру безопасности. Принцип в том, чтобы сделать эксплуатацию уязвимости максимально сложной для атакующего, даже если сама ошибка существует. Это включает в себя разработку защитных механизмов перед приложением, проектирование так, чтобы ошибка в одной части кода не открывала доступ к другим, и возможность мгновенного развёртывания исправлений.

Как именно Cloudflare планирует применять Mythos на практике, компания пока держит в секрете, но обещает поделиться подробностями в ближайшие недели.