Главное

Baidu выпустила и открыла код Unlimited OCR 2 27 октября 2026 года — 3B vision-language модели (мультимодальная языковая модель), которая превращает упорядоченные изображения страниц в структурированный текст, включая таблицы, формулы, рисунки, заголовки и порядок чтения. Модель решает застарелую проблему OCR: разбивка длинных документов на изолированные фрагменты нарушает порядок чтения, сквозные таблицы и ссылки.

ℹ Лицензия и доступность
Модель распространяется под лицензией MIT. Релиз включает веса модели, интерфейс Transformers, код на GitHub и рецепты деплоя для SGLang и vLLM. Весовые файлы доступны на Hugging Face, ModelScope и Baidu Cloud.

Ключевая технология: SR-SWA

Главная техническая новинка Baidu — Sparse Reference Sliding Window Attention (SR-SWA, разреженное скользящее оконное внимание с опорными токенами), которое ограничивает объём состояния attention при обходе документа.

SR-SWA сжимает текстово-визуальные взаимодействия из сверхдлинных последовательностей до фиксированного набора рабочих опорных токенов (например, 512 штук), что ограничивает вычислительную сложность и удерживает задержку декодирования и объём памяти практически постоянными вне зависимости от длины документа.

SR-SWA сочетает 128-токенное локальное окно с выбором топ-16 по 32-токенным блокам. В результате Unlimited-OCR 2 достигает истинного неограниченного парсинга документов в конечном контекстном окне — фактически устраняя квадратичное масштабирование attention и узкие места памяти по мере роста документов.


graph LR
    A[Входные страницы\nPDF/изображения] --> B[SR-SWA\n512 опорных токенов]
    B --> C[Фиксированная\nпамять и латентность]
    C --> D[Структурированный\nMarkdown-вывод]
    D --> E[Текст / Таблицы\n/ Формулы / Рисунки]

Характеристики модели

Unlimited OCR 2 содержит 3.34 млрд параметров, поддерживает до 131 072 токенов контекста, работает на одном CUDA-GPU в формате BF16 (Baidu тестировала на NVIDIA A800-80GB), а веса весят около 6.7 ГБ.

ПараметрЗначение
Число параметров3.34B
Контекстное окно131 072 токена
Формат весовBF16 (~6.7 ГБ)
ЛицензияMIT
ИнференсTransformers, SGLang, vLLM
Тестовое железоNVIDIA A800-80GB

Бенчмарки

Baidu сообщает о результате 84.6 на MPDocBench и 77.1 на MarathonDocBench в собственном тестировании; независимые оценки пока не опубликованы.

На MarathonDocBench (документы в сотни страниц) Unlimited OCR 2 набирает 77.1, тогда как следующий по результату Kimi-K3 — лишь 33.7. При этом Qwen3.8-Max лидирует на более коротком MPDocBench с 78.3, но обваливается до 22.9 на MarathonDocBench, тогда как Unlimited OCR 2 теряет всего 7.5 пункта.

⚠ Самооценка
Baidu также выпустила MarathonDocBench — то есть компания одновременно создала тест и заявила о лучших результатах на нём. Независимая проверка цифр необходима перед тем, как полагаться на эти показатели.

Скорость декодирования

На 100-страничных документах SR-SWA обеспечивает декодирование в 7.0× быстрее, чем Full Attention, и в 5.6× быстрее, чем R-SWA (предыдущий механизм), при сохранении точности на документах до 300 страниц.

Как запустить

Модель поддерживает два режима инференса:

Transformers (быстрый старт):

import torch
from transformers import AutoModel, AutoTokenizer

model_name = "baidu/Unlimited-OCR-2"
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModel.from_pretrained(
    model_name,
    trust_remote_code=True,
    use_safetensors=True,
    torch_dtype=torch.bfloat16
).eval().cuda()

# Многостраничный парсинг
pages = [f"your_doc/page_{i}.jpg" for i in range(1, 8)]
text, num_tokens = model.infer_multi(
    tokenizer,
    image_files=pages,
    output_path="output/multi",
    save_results=True
)

SGLang (рекомендуется для продакшена): запуск сервера с OpenAI-совместимым API, поддержкой постраничного планирования окон и переиспользованием KV-кэша.

💡 Совет по памяти
При деплое через SGLang используйте --mem-fraction-static 0.7 — значение 0.75 оставляет слишком мало буфера при 32+ одновременных запросах. Параметр --max-prefill-tokens 2048 вдвое снижает пиковое потребление памяти по сравнению с 4096.

Контекст и значение для отрасли

Unlimited OCR 2 продолжает серию, начатую в июне 2026 года, когда первая версия была представлена как развитие DeepSeek-OCR. Новая версия переходит от концепции Long-Horizon (десятки страниц) к Unlimited-Horizon (документы произвольной длины).

Парсинг документов любой длины без квадратичного роста вычислений — именно так выглядит следующее поколение OCR-систем для промышленного применения.

Одновременно с моделью Baidu опубликовала новый бенчмарк MarathonDocBench для оценки парсинга сверхдлинных документов. Для отрасли это означает появление открытого инструмента, способного обрабатывать финансовые отчёты, юридические досье и научные монографии целиком — без потери контекста между страницами и без экспоненциального роста затрат на вычисления.