Один endpoint вместо десятков SDK

Открытый AI-шлюз OmniRoute набирает популярность среди разработчиков: один endpoint объединяет 268+ провайдеров (50+ бесплатных) и более 500 моделей — Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Проект позиционирует себя как локальный прокси, который автоматически переключается между бесплатными и платными провайдерами, сжимает токены для экономии квоты и хранит все учётные данные только на машине пользователя. Репозиторий впервые попал на первое место в GitHub Trending 30 июня 2026 года.

ℹ Что такое AI-шлюз (AI gateway)
AI-шлюз (gateway) — это локальный прокси-сервер, который принимает запросы в формате OpenAI API и самостоятельно распределяет их по разным провайдерам. Разработчик настраивает один URL, а шлюз делает всё остальное.

Как это работает

OmniRoute запускается на машине пользователя через Node.js, Docker или Electron-приложение, открывая OpenAI-совместимый API по адресу http://localhost:20128/v1. Любой инструмент, поддерживающий формат OpenAI, включая Claude Code, Cursor, Cline, Copilot и другие, может указывать на этот endpoint вместо одного конкретного провайдера.

Быстрый старт через npm или Docker:

# Через npm
npx omniroute@latest

# Через Docker
docker run -d --name omniroute --restart unless-stopped \
  -p 127.0.0.1:20128:20128 \
  -v omniroute-data:/app/data \
  diegosouzapw/omniroute:latest

После запуска все AI-инструменты достаточно направить на http://localhost:20128/v1.

Умная маршрутизация: 18 стратегий и zero-config режим

Флагманская возможность проекта — combo (цепочка моделей с авто-переключением). Когда квота одного провайдера заканчивается, OmniRoute молча переходит к следующему. Для тех, кто не хочет настраивать combos вручную, есть режим auto:

РежимОптимизация
autoСбалансированный по умолчанию (LKGP — держится за последнего успешного провайдера)
auto/codingКачество кода в приоритете
auto/fastМинимальная задержка
auto/cheapМинимальная стоимость за токен
auto/offlineМаксимум свободной квоты
auto/smartКачество + 10% исследования новых моделей

Всего доступно 18 стратегий маршрутизации и 95 MCP-инструментов (Model Context Protocol).


graph LR
    A[Запрос от Claude Code / Cursor / Cline] --> B[OmniRoute localhost:20128/v1]
    B --> C{Quota OK?}
    C -- Да --> D[Провайдер 1: Kimi / Claude / GPT]
    C -- Нет --> E[Провайдер 2: DeepSeek / Gemini]
    E --> F{Quota OK?}
    F -- Нет --> G[Провайдер 3: GLM / MiniMax]
    D --> H[Ответ]
    G --> H

Сжатие токенов: RTK + Caveman

Quota-aware auto-fallback дополняется стековым сжатием RTK+Caveman, которое экономит от 15 до 95% токенов. Это особенно актуально при работе с большими кодовыми базами: меньше токенов — дольше хватает бесплатных квот.

В последних версиях добавлена защита от инфляции сжатия: если сжатый промпт оказывается длиннее исходного, система автоматически отправляет оригинал. Также добавлены пакеты правил Caveman для немецкого, французского, японского языков и китайского (文言/wényán).

💡 Экономия токенов
При работе с длинными промптами и большими контекстами попробуйте включить режим auto/cheap совместно со сжатием — это позволит существенно продлить жизнь бесплатных квот, особенно при использовании нескольких провайдеров одновременно.

OmniRoute vs конкуренты

268+ провайдеров, 500+ моделей и сжатие 15-95% токенов делают OmniRoute заметно богаче функционально по сравнению с аналогами:

ХарактеристикаOmniRouteLiteLLM / OpenRouter
Провайдеров268+20–100
Бесплатных провайдеров90+1–5
Стратегий маршрутизации181–3
Сжатие токеновRTK+Caveman (15–95%)Нет / 20–40%
MCP-сервер104 инструментаРедко
Поддержка A2A (agent-to-agent)ЕстьНет
i18n43 языка0–4
МультиплатформенностьWeb, Desktop, Termux, PWAWeb only

Новая функция: Quota-Share

В последних релизах появилась функция Quota-Share — справедливое распределение квоты одного аккаунта между несколькими API-ключами. Это решает типичную командную проблему: один разработчик сжигает дневную квоту, и остальные теряют доступ. Можно задать веса распределения (например, 50/30/20), выбрать политику (hard, soft, burst) и установить абсолютные потолки на ключ.

⚠ Важно: соблюдайте ToS провайдеров
Некоторые провайдеры явно запрещают использование своих сервисов через сторонние прокси. Например, Kiro FAQ прямо запрещает использование с «OpenClaw и аналогичными инструментами, использующими сторонние обвязки». Перед подключением провайдера проверяйте его условия использования.

Происхождение и состояние проекта

OmniRoute начинался как форк проекта 9router и TypeScript-порт Go-проекта CLIProxyAPI. Репозиторий создан в феврале 2026 года, последний коммит — в июле 2026-го; текущая ветка — release/v3.8.49.

Проект набрал более 17 000 звёзд на GitHub. Среди заявленных возможностей — quota-aware auto-fallback, сжатие токенов, MCP/A2A и поддержка Desktop/PWA; проект собран усилиями 500+ контрибьюторов.

«Never stop coding» — девиз OmniRoute отражает главную идею: разработчик не должен останавливаться из-за лимитов квот или недоступности провайдера.

Проект распространяется под лицензией MIT и доступен на GitHub. Установить можно одной командой: npx omniroute@latest.