04
Jun
news
AirLLM: запуск 70B модели на GPU с 4 ГБ VRAM
AirLLM позволяет запускать 70B языковые модели на одной GPU с 4 ГБ VRAM без квантизации и прунинга — …
→
Inference
4
материала
06
May
tool-review
Rapid-MLX: самый быстрый локальный AI на Mac
Обзор Rapid-MLX — open-source движка для запуска LLM на Apple Silicon. В 4.2x быстрее Ollama, 100% …
→
04
May
translation
TPU от Google: как работают чипы для самых тяжёлых задач ИИ
Разбираем архитектуру TPU от Google: от первого поколения до Ironwood и TPU 8-го поколения — зачем …
→
19
Feb
glossary
Mixture of Experts (MoE)
Mixture of Experts (MoE) — архитектура нейросети, при которой модель активирует не все параметры …
→