13
Aug
article
macOS VM + llama.cpp: в 16× быстрее на Apple Silicon
Как команда Cua разогнала LLM-инференс внутри macOS VM до 98% скорости bare-metal с помощью шима …
→
Llama.cpp
9
материалов
03
Aug
news
DwarfStar: локальный движок для DeepSeek V4 Flash и PRO
Сальваторе Санфилиппо выпустил DwarfStar — нативный inference-движок для запуска DeepSeek V4 Flash и …
→
05
Jul
article
Гайд Jamesob: запускаем SOTA LLM локально
Подробный разбор руководства Jamesob по запуску топовых LLM на своём железе: железо, квантизация, …
→
16
Jun
news
Qwen3 вместо Claude: опыт разработчиков на локальных LLM
Разработчики на Hacker News делятся реальным опытом замены Claude и GPT на локальные модели. Что …
→
19
May
news
llama.cpp: MXFP4, мультимодальность и NVIDIA
llama.cpp получил поддержку gpt-oss с нативным MXFP4, мультимодальный llama-server и интеграцию с …
→
23
Mar
tool-review
Обзор Ollama: запускаем LLM локально
Ollama — CLI-инструмент для локального запуска LLM. Обзор возможностей, поддерживаемые модели, …
→
11
Mar
tool-review
Обзор LM Studio: GUI для локальных LLM-моделей
LM Studio — бесплатное десктопное приложение для запуска LLM локально. Обзор возможностей, сравнение …
→
05
Mar
guide
Локальные LLM: руководство по запуску на своём железе
Как запустить большую языковую модель локально: выбор железа, софта, модели и пошаговая настройка …
→
10
Feb
article
Квантование моделей: запуск большой LLM на слабом железе
Как с помощью квантования запустить большие языковые модели на обычном ПК. Методы GPTQ, AWQ, GGUF, …
→