Создатель Claude Code Борис Черни: «Циклы ИИ — это не хайп, а реальность»

В пятницу создатель Claude Code Борис Черни выступил на конференции Meta @Scale, и, к удивлению, первый вопрос из зала был о циклах.

«Циклы — это очередной хайп или они реально работают?» — спросил зритель.

Черни ответил решительно: «Да, они реальны».

«Два года назад мы писали исходный код вручную. Затем мы начали переходить к тому, что агенты пишут код. А теперь мы переходим к тому, что агенты дают задания другим агентам, которые затем пишут код, — продолжил он. — Насколько большим был шаг от исходного кода к агентам, настолько же важным и большим шагом являются циклы».

Позже в своем выступлении (примерно на отметке 32:00 в видео на YouTube, размещенном выше) Черни рассказал о конкретных циклах, которые он использует в своей работе. Один агент постоянно ищет способы улучшить архитектуру кода, в то время как другой ищет дублирующиеся абстракции, которые можно объединить. Они отправляют pull request'ы, как и любой другой программист, и, поскольку код постоянно меняется, они никогда не прекращают работу.

Это мощная идея, особенно когда за ней стоит такая значимая фигура, как Черни. С переходом к агентному ИИ большинство пользователей сосредоточились на максимально эффективном управлении своими агентами: ставить четкие цели, проверять отдельные этапы прогресса и не позволять им слишком сильно отклоняться от промпта. Цикл делает шаг вперед, позволяя рою агентов непрерывно работать в фоновом режиме, бесконечно. Это требует большого доверия к ИИ, но, учитывая, что модели быстро совершенствуются, это может стать следующим шагом в привлечении ИИ к реальной работе.

Первое, что нужно понять: это не совсем ново. Рекурсивные циклы — функции, которые вызывают сами себя для повторения действия, с условием остановки цикла, — являются основой вводных курсов по информатике. Эти циклы следуют недетерминированной логике, то есть суб-агент решает, когда остановить цикл, вместо четкого условия, но основной подход тот же. Как только программисты начали использовать ИИ для выполнения задач, какая-то версия рекурсивного цикла, где ИИ контролирует ИИ, была неизбежна.

В отличие от классических вычислений, агентные циклы могут быть до смешного простыми. Один из самых популярных трюков — цикл Ральфа (названный в честь Ральфа Виггама), который, по сути, суммирует всю работу, проделанную моделью, и спрашивает, достигла ли она своей цели. Это способ справиться с ситуацией, когда модели ИИ «теряются» при длительной работе — по сути, перебрасывая модель туда-сюда, пока задача не будет выполнена.

Другой способ думать о циклах — как о части общего стремления к увеличению вычислительных ресурсов во время тестирования. Как заметил исследователь OpenAI Ноам Браун в начале этого месяца, современные модели могут решить практически любую проблему, если дать им достаточно вычислительных мощностей. Это означает, что один из способов гарантировать решение проблемы — просто продолжать вкладывать в нее вычислительные ресурсы, пока она не будет завершена. Это особенно верно для задач, связанных с «восхождением на холм», таких как улучшение кодовой базы, где модель может просто вносить постепенные улучшения, пока не достигнет заданного порога. Или, как в примере Черни, она может просто продолжать вносить постепенные улучшения, пока есть вычислительные ресурсы для их выполнения.

Если это звучит дорого, так оно и есть. Как и агентный ИИ до него, циклы ИИ сжигают токены гораздо быстрее, чем простые чат-боты для вопросов и ответов. А поскольку смысл в том, чтобы цикл работал постоянно, нет предела тому, сколько вы можете потратить. Это нормально для Anthropic, которая в конечном итоге занимается продажей токенов, но для всех остальных это может быть дорогим способом работы.

Тем не менее, в зависимости от проблемы, которую пытается решить агентный цикл, и правильной настройки, позволяющей контролировать расход токенов, дрейф и другие классические проблемы ИИ, выгоды могут быть настолько ошеломляющими, что перевесят затраты.

* Meta, Facebook и Instagram запрещены в России.