FreeLLMAPI: один эндпоинт вместо тридцати четырёх

7,4 миллиарда токенов в месяц, 34 бесплатных LLM-провайдера, 635 эндпоинтов моделей — и всё это за одним OpenAI-совместимым эндпоинтом. Именно это обещает open-source проект FreeLLMAPI от разработчика Ташфина Ахмеда. Проект распространяется под лицензией MIT и предназначен для самостоятельного развёртывания. Релиз активно набирает внимание GitHub-сообщества — и на то есть весомые причины.

Зачем это нужно

Большинство бесплатных тиров ограничены по запросам в день или по токенам в день, а не по денежному балансу. По отдельности каждый бесплатный тир — это, по сути, игрушка. Но в совокупности картина меняется.

«Стек из тридцати четырёх разных SDK, тридцати четырёх разных лимитов — тридцать четыре места, где запрос может упасть. FreeLLMAPI сворачивает всё это в один OpenAI-совместимый эндпоинт.»

Проект агрегирует бесплатные тиры от десятков провайдеров, а также поддерживает кастомные OpenAI-совместимые эндпоинты для чата, эмбеддингов, изображений и аудио — всё через единый /v1 API.

ℹ Что такое failover
Failover (автоматическое переключение) — механизм, при котором роутер автоматически отправляет запрос к следующему доступному провайдеру, если текущий исчерпал лимит или вернул ошибку 429/5xx.

Как это работает

Ключи провайдеров хранятся в зашифрованном виде. Роутер выбирает наилучшую доступную модель для каждого запроса, переключается на следующего провайдера при превышении rate limit и отслеживает использование по каждому ключу, чтобы не превысить бесплатный лимит.


graph LR
    A[Ваш OpenAI SDK] --> B[FreeLLMAPI /v1]
    B --> C{Роутер}
    C -->|Лучший доступный| D[Google AI Studio]
    C -->|Failover| E[Groq]
    C -->|Failover| F[Cerebras]
    C -->|Failover| G[Mistral / NVIDIA / др.]
    D & E & F & G --> H[Ответ]

React-based admin dashboard предоставляет управление ключами, аналитику использования и playground для тестирования разных моделей.

Поддерживаемые провайдеры и модели

FreeLLMAPI агрегирует настоящие бесплатные тиры 34 AI-провайдеров — включая Google AI Studio, Groq, Cerebras, NVIDIA, Mistral, OpenRouter, Cohere, Cloudflare Workers AI, Z.ai, HuggingFace и другие — за единым OpenAI-совместимым /v1-эндпоинтом.

ПровайдерОсобенность
Google AI StudioGemini Flash, большой контекст
GroqВысокая скорость инференса
CerebrasБыстрые открытые модели
MistralЕвропейские open-weights
OpenRouterАгрегатор с failover
NVIDIA, Cohere, Z.aiСпециализированные модели
HuggingFace, ModelScopeШирокий каталог open-source
Custom endpointЛюбой OpenAI-совместимый (llama.cpp, Ollama, vLLM)

Помимо текстовых моделей, роутер поддерживает:

  • /v1/images/generations — генерация изображений
  • /v1/videos/generations — генерация видео
  • /v1/audio/speech и /v1/audio/transcriptions — синтез и распознавание речи
  • /v1/embeddings — эмбеддинги

Совместимость с coding-агентами

Per-tool рецепты, CLI-справочник и MCP-сервер доступны в разделе Clients & coding agents. Проект работает с большинством популярных инструментов:

Claude Code, Codex CLI, Gemini CLI, Aider, Cline, Cursor, Continue, Zed, JetBrains AI — и любым другим OpenAI-совместимым клиентом.

💡 Быстрый старт

Запуск через Docker — одна команда, которая создаёт ~/freellmapi, генерирует ключ шифрования, скачивает образ и стартует контейнер:

curl -fsSL https://freellmapi.co/inst | bash

Проект работает на любой системе с Node.js 20+: Windows, macOS, Linux, Raspberry Pi.

Самообновляемый каталог моделей

Одна из ключевых проблем в экосистеме бесплатных API — постоянные изменения. 31 мая 2026 года один из LLM-провайдеров тихо удалил большинство своих бесплатных моделей, включая именно ту, которую вызывал пользовательский код. FreeLLMAPI решает эту проблему автоматически: роутер дважды в день синхронизирует подписанный каталог с freellmapi.co — новые модели, изменения квот и фиксы совместимости приходят без git pull.

Есть два режима:

РежимОбновление каталогаСтоимость
Free (self-hosted)Снапшот раз в 30 днейБесплатно
Premium (live catalog)В тот же день$19/год
⚠ Только для личного использования
Проект предназначен исключительно для личных экспериментов и обучения, а не для продакшена. Бесплатные тиры существуют для прототипирования — их не следует рассматривать как стабильную инфраструктуру для инференса. Ваши отношения с каждым провайдером регулируются условиями, которые вы приняли при регистрации — они продолжают действовать и при проксировании трафика через этот проект.

Контекст: зачем это важно

Между бесплатным тиром Gemini от Google, Groq, Cerebras, OpenRouter и десятком более мелких провайдеров можно запускать реальные рабочие нагрузки — чатботы, агенты, исследовательские пайплайны — за $0 в месяц.

GPT-5.5, Claude и Gemini Ultra здесь не появятся — у них нет бесплатных тиров для стекирования. Это инструмент для задач, где «достаточно хорошо и бесплатно» выигрывает у «фронтир-модели с оплатой»: прототипы, классификаторы, черновики, скрипты для локального агентного цикла.

Актуальная версия проекта (v0.8.9) опубликована в августе 2026 года. Исходный код доступен на GitHub: tashfeenahmed/freellmapi.

📝 Fusion-режим
FreeLLMAPI поддерживает виртуальную модель fusion: роутер одновременно отправляет промпт нескольким бесплатным моделям, а затем модель-судья синтезирует один ответ из всех черновиков. Удобно для задач, где нужна «вторая мнение» без затрат.