/tags/ktransformers/Recent content in KTransformers on AI-Uchi — Всё об искусственном интеллектеHugoruMon, 20 Jul 2026 03:10:13 +0300/news/ktransformers-zapusk-100b-modelej-na-potrebitelskom-zheleze/Mon, 20 Jul 2026 03:10:13 +0300/news/ktransformers-zapusk-100b-modelej-na-potrebitelskom-zheleze/<h2 id="ktransformers-позволяет-запускать-гигантские-llm-на-обычном-железе">KTransformers позволяет запускать гигантские LLM на обычном железе</h2> <p>KTransformers — исследовательский проект, сфокусированный на эффективном инференсе и тонкой настройке больших языковых моделей через CPU-GPU гетерогенные вычисления. Используя совместную работу CPU и GPU, фреймворк позволяет разворачивать топовые модели с 100B+ параметрами локально — достаточно одной RTX 5090 с 32 ГБ видеопамяти. Свежие обновления добавили поддержку MiniMax-M3 и GLM-5.2, а сам проект уже собрал более 17 тысяч звёзд на GitHub.</p> <hr> <h2 id="что-умеет-ktransformers">Что умеет KTransformers</h2> <p>Проект предоставляет два пользовательских модуля из дерева исходников kt-kernel: <strong>Inference</strong> (инференс) и <strong>SFT</strong> (supervised fine-tuning, тонкая настройка с учителем).</p>