05
Jul
article
Гайд Jamesob: запускаем SOTA LLM локально
Подробный разбор руководства Jamesob по запуску топовых LLM на своём железе: железо, квантизация, …
→
GGUF
4
материала
19
May
news
llama.cpp: MXFP4, мультимодальность и NVIDIA
llama.cpp получил поддержку gpt-oss с нативным MXFP4, мультимодальный llama-server и интеграцию с …
→
11
Mar
tool-review
Обзор LM Studio: GUI для локальных LLM-моделей
LM Studio — бесплатное десктопное приложение для запуска LLM локально. Обзор возможностей, сравнение …
→
10
Feb
article
Квантование моделей: запуск большой LLM на слабом железе
Как с помощью квантования запустить большие языковые модели на обычном ПК. Методы GPTQ, AWQ, GGUF, …
→