Workweave Router: умный роутинг моделей для агентов

Что такое Workweave Router и для кого он создан

Weave запустила Router — лёгкий open-source инструмент оркестрации моделей, направляющий AI-запросы к наиболее подходящей LLM менее чем за 50 миллисекунд. Разработан компанией Weave — платформой инженерной аналитики — и решает растущий корпоративный запрос на оптимизацию затрат и гибкость в мультимодельных агентных пайплайнах.

Weave Router — это прокси для маршрутизации моделей, созданный для агентных coding-воркфлоу, где одна задача может включать планирование, исследование кодовой базы, реализацию и ревью. Вместо того чтобы прогонять каждый запрос из Claude Code, Codex, opencode, Cursor или пользовательского API через одну дорогую frontier-модель, Router предоставляет совместимые с Anthropic, OpenAI и Gemini эндпоинты, оценивает каждый запрос с помощью локального embedder’а и кластерного скорера, затем форвардит его к поставщику — DeepSeek, Kimi, GLM, Qwen, Llama, Mistral, OpenRouter или любому OpenAI-совместимому бэкенду.

Инструмент ориентирован на:

• Команды разработчиков, использующие Claude Code, Codex CLI или opencode
• Стартапы и компании, у которых AI-биллинг выходит из-под контроля
• DevOps/MLOps-инженеров, строящих производственные агентные системы
• Исследователей, которым нужен контроль над маршрутизацией без vendor lock-in

Как работает маршрутизация

Маршрутизация — это не эвристика по длине промпта и не жёстко заданный список ключевых слов. Каждый запрос встраивается небольшой ONNX-моделью, оценивается по замороженному набору кластеров намерений и сопоставляется с наиболее дешёвым кандидатом, который исторически показывал паритет с frontier-моделью на данном кластере.

Скорер не просто выбирает модель с наивысшим баллом — он выбирает кандидата, побеждающего по составному критерию стоимости, задержки и многословности.

graph LR
    A[Запрос от агента] --> B[Локальный ONNX-embedder]
    B --> C[Кластерный скорер]
    C --> D{Выбор модели}
    D -->|Простой запрос| E[DeepSeek / Qwen / Llama]
    D -->|Сложная задача| F[Claude / GPT / Gemini]
    E --> G[Ответ агенту]
    F --> G

Сессионное закрепление (Session Pinning)

Session pinning — ключевая архитектурная особенность: Router закрепляет решение о модели на всю сессию, а не переоценивает его на каждом шаге. Логика — эффективность кеша промптов: если первый ход роутируется к провайдеру A, а второй к провайдеру B, придётся платить полную стоимость повторного прайминга идентичного контекста у второго провайдера, что нивелирует экономию.

Ключевые возможности

Интеграция одной командой

Инсталлятор одной командой направляет Claude Code, Codex, opencode или pi к Weave Router.

# Интерактивный режим — выбор клиента
npx @workweave/router

# Напрямую для Claude Code
npx @workweave/router --claude

# Для Codex CLI
npx @workweave/router --codex

# Самостоятельный хостинг через docker-compose
npx @workweave/router --local

# Переключение без потери конфига
npx @workweave/router off --claude
npx @workweave/router on --claude

Поддерживаемые провайдеры и модели

Платформа работает как drop-in прокси, совместимый с основными облачными провайдерами — Anthropic, OpenAI и Gemini, а также поддерживает open-weight модели Llama, Mistral и Qwen через OpenRouter или стандартные OpenAI-совместимые бэкенды.

BYOK и самохостинг

Поддерживается BYOK-схема: ключи провайдеров хранятся локально и зашифрованы в покое, для клиентов выдаются отдельные ключи роутера. Самохостинговый стек включает дашборд, Postgres, endpoint для предпросмотра маршрутов, health checks и OTLP-трейсы для Honeycomb, Datadog, Grafana и других observability-инструментов.

Managed-режим

Управляемый (рекомендуемый) режим: нужно зарегистрироваться на router.workweave.ai, добавить ключи провайдеров и указать клиенту базовый URL. Маршрутизация активируется в течение нескольких минут.

Таблица характеристик Workweave Router

Тарифы и цены

Publicly доступной тарифной сетки на момент публикации нет — Router работает по модели BYOK: вы платите своим провайдерам напрямую, а маршрутизатор экономит на выборе более дешёвых моделей. Managed-сервис доступен по адресу router.workweave.ai.

Насколько реальна экономия?

В блог-посте проекта сообщается об 80–85% снижении затрат без наблюдаемой регрессии качества на production-трафике Claude Code, объясняя это тем, что 60–70% запросов — короткие, структурно простые завершения, с которыми open-source модели справляются на паритете примерно за одну сороковую цены.

В заголовке GitHub-репозитория указана более консервативная цифра: «Cut costs 40–70% with just an endpoint change». Сам путь маршрутизации добавляет лишь единицы миллисекунд накладных расходов.

Оба диапазона — самооценка проекта, а не независимая верификация, поэтому воспринимайте их как ориентир, а не гарантию.

«60–70% production-запросов в Claude Code — короткие завершения, с которыми open-source модели справляются на паритете примерно за 1/40 стоимости frontier-моделей» — Workweave Blog

Плюсы и минусы

Сравнение с альтернативами

Ни OpenRouter, ни LiteLLM не маршрутизируют по смыслу запроса — это принципиальное отличие Workweave Router, использующего ML-классификацию. OpenRouter добавляет около 40 мс задержки к каждому запросу, тогда как Workweave Router по заявлению разработчиков укладывается в единицы дополнительных миллисекунд.

npx @workweave/router --claude

Вердикт

Workweave Router подойдёт:

• Командам на Claude Code / Codex с высоким monthly spend
• Стартапам, которым нужна мгновенная интеграция без рефакторинга
• DevOps-инженерам, строящим агентные пайплайны с observability
• Тем, кто хочет BYOK без vendor lock-in

Не подойдёт:

• Компаниям, которым нужен полноценный open-source (ELv2 ограничивает)
• Командам с некодинговыми воркфлоу (инструмент заточен под agentic coding)
• Тем, кому нужны независимо верифицированные бенчмарки перед внедрением

Рейтинг: 7.5 / 10

Workweave Router закрывает реальную боль — перерасход на frontier-моделях в агентных системах — и делает это с минимальным порогом входа. ML-маршрутизация по смыслу запроса, а не по длине токенов, выгодно отличает его от конкурентов. Молодость проекта и самооценочная природа заявленных цифр пока не позволяют дать высший балл, но для команд на Claude Code / Codex — это один из наиболее практичных инструментов оптимизации затрат на рынке прямо сейчас.