30
Sep
tool-review
TensorFold: точный inference LLM на Apple Silicon
Обзор TensorFold — открытого движка для запуска LLM на Apple Silicon с точным спекулятивным …
→
Локальные Модели
9
материалов
05
Sep
tool-review
Magnitude: локальный inference-сервер для AI-агентов
Обзор Magnitude — open-source inference-сервера, который профилирует железо, подбирает модели и …
→
11
Aug
news
Muse Glimmer: мощный агентный ИИ от Meta на вашем PC
Meta выпустила Muse Glimmer — 30-миллиардную модель под Apache 2.0 для локальных ИИ-агентов. …
→
16
Jun
news
Qwen3 вместо Claude: опыт разработчиков на локальных LLM
Разработчики на Hacker News делятся реальным опытом замены Claude и GPT на локальные модели. Что …
→
20
May
article
87% на бенчмарке с моделью 4B: как это работает
Как построить coding-агент на модели 4B параметров, который превосходит на бенчмарках решения с …
→
20
May
news
Forge: гарантии надёжности поднимают 8B-модель с 53% до 99%
Открытый инструмент Forge добавляет слой надёжности к локальным LLM и поднимает точность 8B-модели …
→
19
May
news
llama.cpp: MXFP4, мультимодальность и NVIDIA
llama.cpp получил поддержку gpt-oss с нативным MXFP4, мультимодальный llama-server и интеграцию с …
→
14
May
tool-review
oMLX: LLM-сервер для Apple Silicon из меню macOS
Обзор oMLX — open-source LLM-инференс сервера с continuous batching и SSD-кешем для Mac на Apple …
→
26
Feb
guide
Локальный AI-стек: Ollama + Open WebUI + RAG за один вечер
Пошаговый гайд по запуску приватного AI-ассистента с RAG на локальной машине: Ollama, Open WebUI, …
→