https://ai-uchi.ru/tags/websockets/Recent content in WebSockets on AI-Uchi — Всё об искусственном интеллектеHugoruSun, 06 Sep 2026 11:00:00 +0300https://ai-uchi.ru/translations/websockets-responses-api-agent-loop-faster/Sun, 06 Sep 2026 11:00:00 +0300https://ai-uchi.ru/translations/websockets-responses-api-agent-loop-faster/<h2 id="когда-модель-быстрее-api-новая-проблема-ai-разработчиков">Когда модель быстрее API: новая проблема AI-разработчиков</h2> <p>С точки зрения задержки агентный цикл Codex проводит большую часть времени в трёх основных стадиях: работа в API-сервисах (валидация и обработка запросов), инференс модели и клиентское время (выполнение инструментов и формирование контекста модели).</p> <p>Раньше запуск LLM-инференса на GPU был самой медленной частью агентного цикла, поэтому накладные расходы API легко скрывались. Но по мере того как инференс становится быстрее, накопленные API-издержки от агентного прогона становятся всё заметнее.</p>