Experiential: Open Source AI-шлюз с нулевой наценкой на токены

«Один ключ — более тысячи моделей, ноль наценки на токены»

Что это и для кого

Experiential — это открытый шлюз (gateway), предоставляющий единый контрольный уровень для доступа к закрытым, open-source, локальным и кастомным моделям. Инструмент создан двумя AI-исследователями — Kion и Silen — после того, как они столкнулись с одной и той же болью: каждый раз при тестировании новой модели приходилось создавать новый аккаунт, управлять очередным ключом и отслеживать расходы в отдельном месте. Они искали open-source-решение, совмещающее доступ к моделям, управление использованием и маркетплейс без дополнительной наценки на каждый токен.

Experiential Labs ориентирован прежде всего на AI-разработчиков, исследователей и организации, развёртывающие AI-агентов, которым нужен эффективный и экономичный доступ к широкому спектру моделей.

Ключевые возможности

1. Единый OpenAI-совместимый эндпоинт

Experiential Labs — это OpenAI-совместимый шлюз: один базовый URL перед каждой моделью — размещёнными провайдерами, собственными ключами (BYOK), кредитами платформы и self-hosted моделями. Достаточно переключить OpenAI-клиент на него и больше ничего не менять.

curl https://api.experientiallabs.ai/v1/chat/completions \
  -H "Authorization: Bearer $EXPLABS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "fable-5",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'

Шлюз поддерживает OpenAI wire protocol для Chat Completions и Responses API, включая стриминг — единственное, что нужно изменить в коде, это base URL и ключ.

2. BYOK — Bring Your Own Key

Можно подключить собственные ключи OpenAI, Anthropic, Gemini, Azure, Bedrock, Fireworks или OpenRouter и использовать их бесплатно, без какой-либо наценки.

По модели BYOK вы настраиваете свои учётные данные провайдера, а шлюз маршрутизирует запросы через ваши аккаунты, оплачивая провайдеру напрямую по стандартным тарифам.

3. Интеллектуальный слой оптимизации

Каждый запрос использует единый формат трассировки, поэтому платформа может обнаруживать промахи кэша и потраченные впустую токены, рекомендовать более подходящие модели, выявлять задачи, которые стоит выполнять асинхронно или пакетно, и обучать специализированные модели, принадлежащие пользователю.

4. Кэширование промптов

Шлюз кэширует ответы на идентичные запросы, чтобы повторные обращения обслуживались из кэша, а не отправлялись провайдеру. Это снижает объём API-вызовов и может уменьшить затраты до 90% для повторяющихся задач.

5. Fine-tuning на собственном трафике

Ключевая инновация — пайплайн fine-tuning с «проверкой в симуляции». Платформа может предложить и затем обучить специализированную модель на данных трафика пользователя. Эта модель проходит валидацию в замкнутом цикле симуляции на конкретных задачах, прежде чем начать работу в продакшне.

В итоге вы получаете модель, которой владеете сами, обученную на вашем рабочем процессе, выполняющую задачи, для которых вы арендовали фронтирную модель — за десятую часть стоимости и в несколько раз быстрее.

6. Управление бюджетом и доступом

Система поддерживает бюджетирование и контроль доступа: API-ключи с ежедневными, еженедельными или ежемесячными лимитами расходов, роли и списки разрешённых моделей.

Один ключ на человека, агента и инструмент. Лимиты устанавливаются администратором один раз и применяются к каждому запросу, так что счёт всегда равен запланированной сумме.

7. Локальный шлюз и самостоятельный хостинг

Локальный шлюз запускается командой exp (или exp run); скомпилированный нативный data plane обслуживает все маршруты на loopback. Можно выбрать между самостоятельным хостингом или размещённым шлюзом.

Как это работает: архитектура

graph TD
    A[Ваше приложение / агент] -->|OpenAI-совместимый API| B[Experiential Gateway]
    B --> C{Маршрутизатор}
    C -->|BYOK| D[OpenAI / Anthropic / Gemini / Azure / Bedrock]
    C -->|Маркетплейс| E[1000+ моделей]
    C -->|Self-hosted| F[Локальные / Кастомные модели]
    B --> G[Слой интеллекта]
    G --> H[Анализ трафика]
    G --> I[Кэш промптов -90%]
    G --> J[Рекомендации моделей]
    G --> K[Fine-tuning → Ваша модель]

Тарифы и цены

Шлюз бесплатен и является open source. Компания зарабатывает на размещённом инференсе и на тарифе Pro.

Pro-план — это ежемесячное начисление кредитов по фиксированной ставке 1 цент за кредит, той же, что и при разовом пополнении. Пополнения позволяют докупать кредиты без оформления плана. Что добавляет Pro — это разблокировка функций: BYOK и локальные модели, actionable intelligence, отказ от захвата промптов, повышенные лимиты.

Размещённый Free-план стоит $0 в месяц. BYOK и маршрутизация локальных моделей не несут наценки на токены. Кредиты платформы выставляются по прайсу провайдера с 0% наценки.

Плюсы и минусы

Сравнение с альтернативами

LiteLLM — это self-hosted, open-source прокси, которым вы управляете сами, тогда как OpenRouter — это управляемый облачный агрегатор с мгновенным доступом к множеству моделей и единым биллингом.

В отличие от управляемых API-агрегаторов вроде OpenRouter, добавляющих наценку, Experiential Labs является open-source и взимает ноль процентов с маршрутизируемого трафика. В отличие от простых прокси-серверов, он включает активный интеллектуальный слой для оптимизации.

import exp

with exp.load_router("my-project") as client:
    response = client.chat.completions.create(
        model="my-project",
        messages=[{"role": "user", "content": "Анализируй данные"}],
    )

Вердикт: кому подойдёт?

Experiential идеально подойдёт:

• Разработчикам и стартапам, которые работают с несколькими LLM-провайдерами и хотят единый endpoint без наценок
• Командам с coding-агентами (Claude Code, Cursor, Codex, Aider) — шлюз напрямую интегрируется с ними
• Компаниям, ориентированным на экономию — благодаря интеллектуальной маршрутизации и кэшированию
• Privacy-ориентированным командам — self-hosted вариант обеспечивает полный контроль над данными
• Тем, кто планирует fine-tuning — уникальная возможность обучить собственную модель прямо на рабочем трафике

Не подойдёт:

• Командам, которым нужна боевая надёжность с годами track record
• Enterprise с жёсткими compliance-требованиями без готовности к самостоятельному хостингу

Итоговый рейтинг

Experiential — один из наиболее амбициозных open-source AI-шлюзов 2026 года. Нулевая наценка, интеллектуальный слой и возможность владеть обученной моделью делают его уникальным. Главный риск — молодость проекта. Но для тех, кто готов войти на раннем этапе, это может стать серьёзным конкурентным преимуществом.