04
Jun
article
Обучение больших моделей на множестве GPU
Как обучать гигантские нейросети на кластерах GPU: параллелизм данных, модели, конвейеров, ZeRO и …
→
GPU
5
материалов
04
Jun
news
AirLLM: запуск 70B модели на GPU с 4 ГБ VRAM
AirLLM позволяет запускать 70B языковые модели на одной GPU с 4 ГБ VRAM без квантизации и прунинга — …
→
16
May
tool-review
NVIDIA VSS Blueprint: AI-аналитика видео на GPU
Обзор NVIDIA AI Blueprint для поиска и суммаризации видео: GPU-ускорение, VLM/LLM агенты, реальное …
→
05
Apr
guide
Docker для AI-проектов: полное руководство
Полное руководство по Docker для AI-проектов. GPU-ускорение, NVIDIA Container Toolkit, Docker Model …
→
22
Feb
article
Как работает инференс: от запроса до ответа
Разбираем путь запроса к LLM: фазы prefill и decode, KV-кэш, speculative decoding и оптимизации, …
→