Weave Router: open-source маршрутизация моделей для кодинг-агентов
Как Weave Router 2.0 достигает производительности GPT-6 Astra при вдвое меньших затратах — архитектура, бенчмарки и практика внедрения.
Когда один LLM — уже недостаточно
В 2026 году у разработчиков под рукой десятки сильных языковых моделей: GPT-6 Astra, Claude Fable 5, DeepSeek V4, Gemini 3.5 Flash и многие другие. Но почти все кодинг-агенты работают по одному и тому же принципу: выбирается одна модель — и она отвечает на все задачи подряд, от тривиального переименования переменной до сложного рефакторинга многоуровневой архитектуры.
Это неэффективно и дорого. Большинство агентов решают все задачи с помощью одной и той же LLM. Такой подход разумен с точки зрения провайдера, который заинтересован в предсказуемых затратах на обслуживание, но он игнорирует реальные потребности пользователей, для которых приоритет — качество на уровне задачи и экономическая эффективность.
Именно на этой идее команда Weave OS построила открытый маршрутизатор — Weave Router. И недавно они объявили о версии 2.0, которая достигает производительности GPT-6 Astra примерно вдвое дешевле.
Что такое Weave Router и зачем он нужен
Weave Router подключается к любому кодинг-агенту — например, Claude Code или Codex — и интеллектуально переключается между LLM в зависимости от задачи.
Принцип прост: не каждый запрос стоит одинаково. Когда сложность задач варьируется, маршрутизация позволяет снизить затраты, направляя подходящие задачи к более дешёвым моделям, оставляя мощные модели для случаев, когда выбор действительно влияет на результат.
На практике это выглядит так: Astra обрабатывает сложную отладку или проектирование систем, а DeepSeek v4 Flash берёт на себя простые обновления фронтенда.
Результаты бенчмарков: цифры говорят сами за себя
Weave Router 2.0 был протестирован в сравнении с GPT-6 Astra на Terminal Bench 4.0 и SWE Atlas. На обоих бенчмарках маршрутизатор показал эквивалентный процент успешных решений.
На Terminal Bench маршрутизатор обошёлся в 52% от стоимости Astra и выполнил задачи в 2,2 раза быстрее. На SWE Atlas стоимость составила 54% от Astra, а скорость — в 2,5 раза выше.
| Бенчмарк | Pass Rate | Стоимость vs Astra | Скорость vs Astra |
|---|---|---|---|
| Terminal Bench 4.0 | Эквивалент Astra | ~52% | 2.2× быстрее |
| SWE Atlas | Эквивалент Astra | ~54% | 2.5× быстрее |
«Производительность на уровне флагмана при половине затрат — именно это обещает умная маршрутизация, и Weave Router 2.0 это доказывает на независимых бенчмарках.»
Важный контекст: сам GPT-6 Astra, несмотря на статус флагмана, по данным Artificial Analysis, в Coding Agent Index имеет стоимость около 60% от Claude Fable 5.1 при идентичной производительности. Иными словами, даже без маршрутизации стоимость флагмана — не абсолют, а всего лишь отправная точка.
Три кита архитектуры Weave Router 2.0
Обучить модель эффективному маршрутизированию — с учётом возможностей моделей, стоимости, осведомлённости о кэше и другого — оказалось очень сложной задачей. Команда выделяет три направления, которые позволили добиться значительного прогресса: новая архитектура, увеличенный обучающий датасет и более умный расчёт влияния вытеснения кэша.
1. Новая архитектура: RL + прайоры
Первоначальный подход использовал RL-модель без значительных прайоров. Хотя RL по-прежнему остаётся важной частью истории, стоимость полного исследования пространства решений по маршрутизации очень высока — поэтому команда применила ряд эвристических сокращений, которые значительно улучшили производительность.
Это согласуется с результатами академических исследований. Узкое место большинства маршрутизаторов — дефицит информации: простое дополнение ванильного LLM-роутера статистикой производительности на уровне задачных измерений даёт +15,3% относительного прироста, превосходя эвристический маршрутизатор, построенный на тех же прайорах.
2. Масштаб обучающих данных
Размер обучающей выборки напрямую влияет на то, насколько хорошо маршрутизатор умеет различать сложность задач. Weave OS существенно расширили датасет, включив разнообразные реальные сценарии разработки — от микроправок до многошаговых рефакторингов.
3. Cache-aware routing
Третий и наименее очевидный компонент — учёт кэша. Разные LLM по-разному управляют KV-кэшем. Если маршрутизатор не учитывает вытеснение кэша при переключении между моделями, задержка резко растёт, сводя на нет экономию. Weave Router 2.0 включает явный расчёт «цены вытеснения» при каждом решении о переключении.
Как это работает под капотом: C-A-F петля
Академический аналог Weave Router — фреймворк Agent-as-a-Router. Он формализует маршрутизацию как цикл C-A-F (Context → Action → Feedback → Context).
sequenceDiagram
participant Task as Входящая задача
participant Router as Weave Router
participant Scout as Разведчик (scout)
participant Strong as Сильная модель (Astra)
participant Fast as Быстрая модель (DeepSeek Flash)
participant Result as Результат
Task->>Router: Новый запрос агента
Router->>Scout: Анализ контекста и сложности
Scout-->>Router: Оценка: сложность, стоимость, кэш
alt Сложная задача
Router->>Strong: Маршрут → Astra
Strong-->>Result: Решение
else Простая задача
Router->>Fast: Маршрут → DeepSeek Flash
Fast-->>Result: Решение
end
Result->>Router: Feedback (успех/провал, стоимость)
Router->>Router: Обновление политики
Ключевой вывод из исследований: лучшая модель варьируется в зависимости от задачи, и выбор глобально сильнейшей модели всё равно уступает оракулу, который выбирает оптимальную модель для каждой конкретной задачи. Маршрутизатор — это инструмент приближения к этому оракулу.
Как подключить Weave Router к своему агенту
Weave Router — open-source проект, доступный на GitHub. Подключение занимает несколько минут.
# Установка
pip install weave-router
# Базовая конфигурация
weave-router init --agent claude-code
Пример конфигурационного файла weave.yaml:
router:
version: "2.0"
models:
strong:
provider: openai
model: gpt-6-astra
max_cost_per_task: 0.50
fast:
provider: deepseek
model: deepseek-v4-flash
max_cost_per_task: 0.05
routing:
cache_aware: true
complexity_threshold: 0.65
fallback: strong
Ландшафт конкурентов и место Weave Router
Маршрутизация LLM — активно развивающаяся область. Маршрутизация моделей — ключевое архитектурное решение в современных LLM-агентах: каждый запрос (или каждый шаг многошагового агента) может быть направлен к одной из нескольких моделей с учётом качества задачи, стоимости, задержки и корректности вызовов инструментов.
| Решение | Тип | Интеграция с агентом | Cache-aware | Open Source |
|---|---|---|---|---|
| Weave Router 2.0 | Обученная RL+прайоры | Claude Code, Codex | ✅ | ✅ |
| RouteLLM | Классификатор | Общий | ❌ | ✅ |
| OpenRouter | Прокси | Общий | ❌ | ❌ |
| Agent-as-a-Router | C-A-F фреймворк | Исследовательский | ✅ | ✅ |
| Scrouting | Scout + Router | SWE-bench | ✅ | ✅ |
Выводы
Weave Router 2.0 демонстрирует важную идею: производительность SOTA-агента — это не свойство одной модели, а свойство системы. Правильно маршрутизированный пул из нескольких моделей бьёт любую одиночную модель по соотношению цена/качество.
Главные выводы:
- Weave Router 2.0 достигает эквивалентного pass rate с GPT-6 Astra: на Terminal Bench — при 52% затрат и в 2,2× быстрее, на SWE Atlas — при 54% затрат и в 2,5× быстрее.
- Вручную выбирать лучшую модель для каждой задачи невозможно в масштабе — автоматическая маршрутизация становится ключевым механизмом повышения производительности агентов.
- Три кита успеха: гибридная архитектура RL+прайоры, масштаб обучающих данных и cache-aware политика вытеснения.
- Проект open-source и легко интегрируется в Claude Code и Codex.
Для команд, которые серьёзно тратятся на LLM-инфраструктуру, модельный маршрутизатор — это уже не экзотика, а инженерная необходимость. Weave Router 2.0 даёт готовый, воспроизводимый baseline для старта.