Четырнадцатого июля группа исследователей выложила в открытый доступ фреймворк Agent-as-a-Router и его конкретную реализацию ACRouter. Это самообучающаяся система, которая смотрит на задачу, вспоминает, какие модели с похожими задачами справлялись, и выбирает самую подходящую. В тестах ACRouter обогнал статические роутеры и стратегию «гонять всё на Opus» с экономией в 2,6 раза.

У любой AI-команды есть знакомая проблема: какую модель запустить. Если всегда брать самую мощную (Claude Opus, GPT-5.4), счёт за инференс растёт. Если всегда брать дешёвую, качество страдает на сложных запросах. Пока эту проблему решают вручную: пишут правила в коде, прикручивают классификатор на эмбеддингах, надеются, что хватит.

Исследователи из ACRouter утверждают, что оба подхода не работают. Статические методы не видят, выполнилась ли задача успешно. Они смотрят только на входящий текст и гадают. АCRouter делает иначе.

Как работает C-A-F: контекст, действие, обратная связь

Фреймворк использует цикл Контекст-Действие-Обратная связь (C-A-F). Когда приходит новый промпт, роутер смотрит на задачу и язык программирования, если это код. Потом ищет в своей исторической памяти похожие задачи и проверяет, какие модели на них справились. Выбирает модель, запускает, смотрит на результат и записывает успех или неудачу обратно в память.

Пример из статьи: AI-агент обрабатывает SQL-запрос. Отправляет задачу открытой модели вроде Kimi - та галлюцинирует имя колонки, SQL не компилируется. C-A-F цикл видит ошибку компиляции, записывает её в память. В следующий раз, когда приходит похожий запрос, роутер отправляет его на более мощную модель, например Claude Opus 4.8.

Система не требует обучать гигантские модели. Оркестратор в ACRouter - это адаптер на Qwen 3.5 с менее чем миллиардом параметров (0,8B). Он помещается на обычном сервере и не требует GPU-кластера.

Почему статические роутеры проигрывают

Сейчас разработчики используют два механизма маршрутизации. Первый - эвристики: если в промпте есть ключевые слова, отправляем на GPT-5.5, иначе на открытую модель. Второй - статические классификаторы: модель, обученная на исторических данных, смотрит на эмбеддинги промпта и предсказывает лучшую модель.

Оба подхода статичны. У них три проблемы, как выяснили исследователи:

  • Замороженное состояние. Роутер не накапливает обратную связь во время эксплуатации. Он не знает, сработала модель или нет.
  • Провал на новых данных. Когда бизнес-данные или поведение пользователей меняются, статическая модель перестаёт угадывать - её обучали на старых паттернах.
  • Уязвимость к смене моделей. Если на следующей неделе вышла новая, более эффективная модель, статический классификатор про неё не знает. Ему нужен перезапуск цикла обучения.

В тестах на реальных задачах кодинга и агентских воркфлоу статические методы упёрлись в жёсткий потолок точности. Они не могли его преодолеть, потому что никогда не видели результат выполнения.

Архитектура ACRouter: память, оркестратор, верификатор

ACRouter состоит из трёх компонентов. Модуль памяти работает на векторном хранилище: хранит историю взаимодействий и подтягивает релевантные прошлые задачи. Оркестратор обрабатывает промпт вместе с извлечённой памятью и выбирает целевую модель. Верификатор оценивает вывод модели и формирует сигнал успеха или неудачи.

Инструментальный слой подключает верификатор к реальным средам исполнения: интерпретатор Python, песочница агента, база данных. Система физически запускает сгенерированный код или запрос и смотрит, что получилось.

Ключевые цифры из тестов ACRouter:

  • Экономия в 2,6 раза против «всегда Opus»: 13 долларов против 34 долларов за полный прогон
  • Ни одна модель не выигрывает во всех категориях - Opus обошли в алгоритмах (GLM-5, +86%) и генерации тестов (Qwen3-Max, +111%)
  • ACRouter сидит на границе Парето по стоимости и качеству на всех тестах
  • Код и веса модели открыты под лицензией Apache 2.0

Где работает, а где нет

Фреймворк показывает себя в задачах с проверяемым результатом: код, извлечение данных, SQL-генерация. Он эффективен там, где распределение задач меняется, и разные модели хороши в своих нишах. Для тривиальных запросов, где любая модель справится, такой роутер - оверкилл. И он не подходит для субъективных доменов вроде креативного письма, где правильный ответ не проверить и сигнал обратной связи не стандартизировать.

Исследователи выложили код на GitHub и веса оркестратора на Hugging Face. Роутер совместим с Claude Code, Codex и OpenCode.

Что это значит для бизнеса

Для компаний, которые уже строят AI-продукты или только планируют внедрение искусственного интеллекта, ACRRouter - это сдвиг в логике cost-контроля. Вместо того чтобы гадать, какая модель справится с задачей, или платить за самую дорогую «на всякий случай», система сама учится оптимизировать затраты на каждый запрос.

На Дальнем Востоке и во Владивостоке эта технология особенно актуальна. При переходе от экспериментов к реальной автоматизации с помощью ии вопрос cost-маршрутизации становится ключевым. Нейросети для бизнеса перестают быть «дорогим экспериментом», когда правильная модель выбирается под каждую задачу автоматически. AI-агенты и системы, построенные с ACRouter, могут дать тот же уровень качества, что и чистый Opus, но в 2-3 раза дешевле.