04
Jun
news
AirLLM: запуск 70B модели на GPU с 4 ГБ VRAM
AirLLM позволяет запускать 70B языковые модели на одной GPU с 4 ГБ VRAM без квантизации и прунинга — …
→
Llama
3
материала
01
Mar
guide
Тонкая настройка открытых моделей: когда нужна и как делать
Полный гайд по fine-tuning открытых LLM: когда выбрать вместо RAG, как настраивать LoRA/QLoRA, какое …
→
10
Feb
glossary
Mixture of Experts — MoE (Смесь экспертов)
Mixture of Experts (MoE) — архитектура нейросетей, где модель делится на специализированных …
→