11
Mar
tool-review
Обзор LM Studio: GUI для локальных LLM-моделей
LM Studio — бесплатное десктопное приложение для запуска LLM локально. Обзор возможностей, сравнение …
→
Ollama
15
материалов
05
Mar
guide
Локальные LLM: руководство по запуску на своём железе
Как запустить большую языковую модель локально: выбор железа, софта, модели и пошаговая настройка …
→
04
Mar
guide
Голосовой AI-ассистент: Whisper + LLM + TTS на своём сервере
Пошаговый гайд по сборке приватного голосового AI-ассистента из трёх компонентов: Whisper для …
→
26
Feb
guide
Локальный AI-стек: Ollama + Open WebUI + RAG за один вечер
Пошаговый гайд по запуску приватного AI-ассистента с RAG на локальной машине: Ollama, Open WebUI, …
→
10
Feb
article
Квантование моделей: запуск большой LLM на слабом железе
Как с помощью квантования запустить большие языковые модели на обычном ПК. Методы GPTQ, AWQ, GGUF, …
→