Nvidia сократила расход токенов у кодинг-агентов почти вдвое

Исследователи Nvidia представили SoL-Pi — систему, которая автоматически оптимизирует обвязку (harness) кодинг-агентов, то есть управляющий слой между моделью и средой. В отличие от методов, снижающих стоимость токена за счёт более быстрых ядер внимания, квантизации или замены модели на более дешёвую, SoL-Pi работает на уровне логики агента.

Обвязка определяет, как агент видит состояние, выполняет действия и обрабатывает обратную связь. Её оптимизация сложна, потому что использование инструментов, управление контекстом, верификация и логика прерывания тесно связаны. Обычно люди вручную изучают длинные трассировки выполнения и переводят повторяющиеся ошибки в код. SoL-Pi автоматизирует эту работу: исследовательский агент наблюдает за трассировками другого агента, предлагает изменения и тестирует их в подготовленных средах.

Система протестировала 152 направления оптимизации в 535 исполняемых средах, включая 495 задач на основе пар issue-pull-request из GitHub и 40 синтетических тестов. Всего было сгенерировано более 3000 запусков и свыше 60 000 взаимодействий агента со средой. Чтобы избежать переобучения, исследователи строго разделили поиск и оценку: бенчмарк EdgeBench не участвовал в поиске, а его 40 задач использовались только для финальной оценки.

В результате поиска были найдены четыре механизма. Action Fusion объединяет два последовательных шага, например редактирование кода и запуск теста, в один, устраняя целый вызов языковой модели. Online Context Compact запускается после каждого шага планирования и сокращает накопленный контекст, когда это возможно без потери важной информации. ObservationPack архивирует длинные выводы инструментов и добавляет краткое резюме на последующих шагах вместо повторной отправки полного текста. Evidence-Preserving Reducer направляет большие логи ошибок и тестов более дешёвой модели, которая выделяет ключевые находки, с автоматической проверкой на случай пропуска важных деталей.

На 51 публичной задаче EdgeBench SoL-Pi показывает примерно тот же результат, что и оригинальная обвязка Pi. Наиболее эффективный вариант, сочетающий все четыре механизма, использует на 49% меньше токенов и достигает 93,7% от оценки Pi. Вариант, ориентированный на производительность, с самым сильным отдельным механизмом превосходит Pi на 5,3%, также экономя токены. В обоих случаях расход токенов падает на 44,7–49%. В денежном выражении авторы оценивают экономию в $8,75–$13,50 в час по сравнению с нативными обвязками Codex и Claude Code и в $4,36–$5,71 в час по сравнению с Pi.

Система была построена только на GPT-5.6 Sol, а затем применена к Opus 5 без изменений. Там она сохранила 94,3% производительности Pi при аналогичной экономии, но механизмы срабатывали реже и менее агрессивно, что исследователи связывают с оптимизацией исключительно на трассировках GPT-5.6 Sol.

На других бенчмарках результаты смешанные. На 63 задачах Terminal-Bench 4 SoL-Pi решает только 15 задач, тогда как Codex и Pi — по 18, хотя общие затраты оказались примерно на четверть ниже, чем у Pi. На формально верифицированных задачах Lean 4 из IMO 2026 система решила три из шести задач с наименьшей стоимостью на решённую задачу. В эксперименте по оптимизации ядра рой из 20 воркеров SoL-Pi сократил затраты на 26,8% по сравнению с аналогичным роем Pi.

Экономия имеет компромиссы: сокращение контекста может уменьшить повторное использование кэша промптов. Авторы предлагают в будущем предобучать обвязку на множестве задач, подобно тому как предобучают модели, и использовать уже оптимизированную обвязку для более дешёвого поиска её преемника. Они называют это рекурсивным улучшением эффективности, но подчёркивают, что это видение, а не результат текущего исследования.