txtai: универсальный AI-фреймворк для семантического поиска и LLM
txtai — open-source фреймворк для семантического поиска, RAG и оркестрации LLM с 13 000+ звёзд на GitHub. Всё в одном пакете на Python.
txtai набирает 13 000 звёзд — и продолжает расти
Репозиторий txtai на GitHub перешагнул отметку в 13 200 звёзд и почти тысячу форков, закрепившись как один из самых популярных инструментов для работы с векторным поиском и большими языковыми моделями. txtai — это единый Python-пакет, который объединяет векторный поиск, граф-поиск и слой RAG в одной зависимости. Проект активно развивается: релизы v9.11.0, v9.12.0 и v9.13.0 вышли в течение двух месяцев — в июле и августе 2026 года.
Что такое txtai
txtai — это open-source AI-фреймворк от компании NeuML, построенный на Python 3.11+, Hugging Face Transformers, Sentence Transformers и FastAPI. Ключевой компонент — embeddings database (база эмбеддингов), которая объединяет:
- векторные индексы (sparse и dense)
- граф-сети (graph networks)
- реляционные базы данных
Эта архитектура позволяет строить как простой векторный поиск, так и сложные RAG-конвейеры и агентские системы.
Ключевые возможности
| Компонент | Описание |
|---|---|
| 🔎 Vector Search | SQL, object storage, topic modeling, граф-анализ, мультимодальная индексация |
| 📄 Embeddings | Текст, документы, аудио, изображения, видео |
| 💡 Pipelines | LLM-промпты, QA, классификация, транскрипция, перевод, суммаризация |
| ↪️ Workflows | Объединение пайплайнов в бизнес-логику и микросервисы |
| 🤖 Agents | Автономные агенты на базе smolagents |
| ⚙️ API | Web API и поддержка MCP (Model Context Protocol) |
| ☁️ Деплой | Локально или в контейнерной оркестрации |
Быстрый старт
Запустить базовый семантический поиск можно буквально в две строки:
import txtai
embeddings = txtai.Embeddings()
embeddings.index(["Correct", "Not what we hoped"])
embeddings.search("positive", 1)
# [(0, 0.29862046241760254)]
Стандартный пакет использует SQLite или DuckDB в качестве бэкенда по умолчанию — колесо версии 9.13.0 на PyPI весит всего 341 КБ, хотя стандартная установка также подтягивает PyTorch, Transformers и Faiss.
Установить txtai можно одной командой:
pip install txtai
Для запуска через Docker достаточно одной строки конфигурации в app.yml.
Архитектура фреймворка
graph TD
A[Данные: текст, аудио, изображения, видео] --> B[Embeddings Database]
B --> C[Vector Index sparse + dense]
B --> D[Graph Network]
B --> E[Relational DB]
C --> F[Semantic Search]
D --> F
E --> F
F --> G[RAG Pipeline]
F --> H[LLM Agents]
F --> I[Workflows]
G --> J[Ответ пользователю]
H --> J
I --> J
Что нового в последних версиях
За последние месяцы txtai прошёл путь от v9.4 до v9.10, сфокусировавшись на AI Agents и Edge/Local AI: добавлена поддержка LiteRT и LiteRT-LLM, реализован Zero dependency minimal install, появился Coding Agent Toolkit и поддержка agents.md, skill.md и памяти агентов.
Финальный релиз серии — v9.13.0 — добавил LEMUR (Learned Multi-Vector Retrieval), расширил возможности late-interaction retrieval и улучшил MUVERA и pooling.
Версия v9.5.0 принесла расширенные агентские возможности: agents.md, skill.md и поддержку памяти агентов.
Рекомендуемые модели
| Компонент | Модель |
|---|---|
| Embeddings | all-MiniLM-L6-v2 |
| Image Captions | BLIP |
| Labels (Zero Shot) | DeBERTa v3 Zeroshot |
| LLM | Gemma 4 31B |
| Summarization | DistilBART |
| Text-to-Speech | ESPnet JETS |
| Transcription | Whisper |
| Translation | OPUS Model Series |
Позиция на рынке
«txtai выигрывает, когда нужен один Python-пакет вместо целого стека»
По итогам января 2026 года txtai вошёл в топ-10 RAG-фреймворков на GitHub. Он спроектирован лёгким и самодостаточным — идеально для приложений, которым нужно работать локально или в условиях ограниченных ресурсов.
Среди ключевых сценариев использования — семантический поиск, self-hosted RAG-системы, офлайн AI-приложения и оркестрация NLP-пайплайнов.
- rag — приложение для Retrieval Augmented Generation
- ncoder — open-source AI-агент для написания кода
- paperai — AI для медицинских и научных статей
- annotateai — автоматическая аннотация научных работ с помощью LLM
Почему это важно для отрасли
Пока рынок AI-инструментов переполнен фреймворками, требующими подключения к внешним сервисам и сложной инфраструктуры, txtai сохраняет дисциплину: один pip install, никаких внешних зависимостей. Мультимодальная поддержка (текст, изображения, аудио, видео), семантический поиск с SQL и граф-запросы, лёгкий footprint и работа полностью офлайн делают его привлекательным для команд, работающих с конфиденциальными данными или в условиях ограниченного доступа к интернету.
NeuML также анонсировала txtai.cloud — облачный хостинг для приложений на базе txtai, что открывает путь к монетизации экосистемы при сохранении open-source ядра.