Думать молча, действовать словами

Исследователи представили Hybrid Reasoning Agents (HybridAgent) — новую архитектуру, которая позволяет LLM-агентам динамически переключаться между латентным (внутренним) рассуждением и текстовым взаимодействием в рамках единого процесса генерации. По сравнению с передовыми LLM-агентами и агентными фреймворками, охватывающими как текстовые, так и латентные методы, HybridAgent стабильно улучшает производительность на 10,4%, обеспечивая при этом сокращение токенов на 35,5–54,7%, ускорение инференса в 1,8–2,6 раза и экономию затрат в 2,7–3,7 раза.

ℹ Что такое латентное рассуждение?
Латентное рассуждение (latent reasoning) — это процесс, при котором модель обрабатывает информацию во внутреннем векторном пространстве (эмбеддингах), не декодируя каждый промежуточный шаг в текстовые токены. Это быстрее и дешевле, но традиционно лишено прозрачности и доступа к внешним инструментам.

В чём проблема существующих подходов

Современные LLM-агенты по-прежнему рассуждают и взаимодействуют через текст, тогда как латентное рассуждение предлагает эффективную внутреннюю среду, но лишено нативного доступа к инструментам и прозрачности рассуждений.

Сегодняшние латентные модели остаются в основном закрытыми за границей модели. В отличие от декодированного текста, непрерывные латентные векторы не имеют нативных путей для вызова инструментов в ходе многоходового агентного рассуждения и не предоставляют человекочитаемой семантики, что делает их сложными для надзора при обучении и для аудита при инференсе.

«Как построить агента, который думает за пределами человеческого языка, но при этом действует через него во внешней среде?» — ключевой вопрос статьи.

Архитектура HybridAgent

HybridLink отображает скрытые состояния последнего слоя обратно в пространство входных эмбеддингов, позволяя агенту входить в латентный режим для рекуррентного, быстрого и инспектируемого внутреннего мышления и возвращаться в текстовый режим для вызова инструментов и внешнего мониторинга. HybridAgent выполняет гибридное рассуждение, думая в латентном пространстве и действуя через текст в рамках единого процесса генерации.


graph LR
    A[Входной запрос] --> B[Латентный режим\nвнутреннее рассуждение]
    B -->|HybridLink| C{Нужен инструмент?}
    C -- Да --> D[Текстовый режим\nвызов инструмента]
    C -- Нет --> B
    D --> E[Результат инструмента]
    E --> B
    B -->|Финальный ответ| F[Текстовый вывод]

Авторы описывают «лёгкий HybridLink», который «обеспечивает плавные переходы между текстовым и латентным режимами», в паре с «непрерывной рабочей памятью», сохраняющей «гибридный контекст без потерь на протяжении нескольких ходов».

Обучение: HybridSFT и HybridRL

Для обучения агента авторы разработали два специализированных алгоритма:

HybridSFT обучает базовую модель координироваться с HybridLink в процессе генерации с интеграцией инструментов. Затем HybridRL обучает модель, когда думать в латентном пространстве, а когда действовать через текст, — с наградами за правильность, формат и использование инструментов.

💡 Ключевой баланс
Агент, который слишком часто переключается в текстовый режим, теряет все преимущества в эффективности. Тот, кто слишком долго остаётся в латентном режиме, не может действовать, когда это необходимо. HybridRL именно и решает эту задачу оптимального выбора момента.

Результаты: цифры говорят сами за себя

Авторы оценивали HybridAgent на 11 бенчмарках, охватывающих математику, науку, медицину, поиск с интенсивным использованием знаний и сложное агентное рассуждение. Модель обучалась на базе Qwen3-Base в масштабах 4B, 8B и 14B параметров.

МетрикаHybridAgent vs. базовые модели
Улучшение производительности+10,4% в среднем
Сокращение числа токенов35,5% – 54,7%
Ускорение инференса1,8× – 2,6×
Экономия затрат2,7× – 3,7×
Лучший результат (14B, агентные задачи)+17,4% над лучшим бейзлайном

Латентные мысли несут содержательную нагрузку: замена латентных участков на фрагменты из других задач или случайные токены снижает точность примерно на 45–51%, тогда как успешность выполнения вызовов инструментов остаётся на уровне 99,7%.

📝 Практический пример
При решении медицинской диагностической задачи HybridAgent рассуждает «молча» в латентном пространстве, накапливая промежуточные выводы без генерации токенов, а затем переключается в текстовый режим только для вызова внешней медицинской базы данных и финального ответа пациенту.

Контекст и значение для отрасли

HybridAgent появляется в момент, когда стоимость инференса становится одним из главных ограничений для массового развёртывания LLM-агентов. Разработчики устали платить за каждый «думательный» токен, генерируемый LLM. HybridAgent решает эту проблему, перенося тяжёлую работу по рассуждению во внутреннее векторное пространство модели, при этом сохраняя возможность общаться на естественном языке.

Ещё один важный аспект — интерпретируемость. Когда модели рассуждают в непрерывных латентных пространствах, они становятся принципиально менее интерпретируемыми. Авторы HybridAgent утверждают, что их архитектура решает эту проблему: латентные мысли остаются полностью читаемыми, а любая LLM может стать HybridAgent.

Код и данные доступны на GitHub по адресу https://github.com/togethercomputer/HybridAgent.

⚠ Важная оговорка
Статья опубликована как препринт на arXiv и ещё не прошла полноценное рецензирование. Заявленные показатели производительности следует воспринимать как предварительные результаты до независимой проверки сообществом.