19
May
news
llama.cpp: MXFP4, мультимодальность и NVIDIA
llama.cpp получил поддержку gpt-oss с нативным MXFP4, мультимодальный llama-server и интеграцию с …
→
GGUF
3
материала
11
Mar
tool-review
Обзор LM Studio: GUI для локальных LLM-моделей
LM Studio — бесплатное десктопное приложение для запуска LLM локально. Обзор возможностей, сравнение …
→
10
Feb
article
Квантование моделей: запуск большой LLM на слабом железе
Как с помощью квантования запустить большие языковые модели на обычном ПК. Методы GPTQ, AWQ, GGUF, …
→