https://ai-uchi.ru/tags/bitnet/Recent content in BitNet on AI-Uchi — Всё об искусственном интеллектеHugoruTue, 13 Oct 2026 03:08:51 +0300https://ai-uchi.ru/news/microsoft-bitnet-1-bit-llm-cpu-inference/Tue, 13 Oct 2026 03:08:51 +0300https://ai-uchi.ru/news/microsoft-bitnet-1-bit-llm-cpu-inference/<h2 id="главное">Главное</h2> <p><strong>bitnet.cpp</strong> — официальный inference-фреймворк (движок для запуска готовых моделей) для 1-битных LLM, таких как BitNet b1.58. Он предлагает набор оптимизированных ядер (kernels) для быстрой и без потерь точности работы 1.58-битных моделей на CPU и GPU. За последние месяцы команда Microsoft выпустила сразу несколько крупных обновлений: движок для распознавания речи в реальном времени, первые 1-битные embedding-модели и существенный прирост скорости на бытовых процессорах.</p> <hr> <h2 id="vibeasrcpp-голос-в-реальном-времени-без-gpu">VibeASR.cpp: голос в реальном времени без GPU</h2> <p>23 июля 2026 года Microsoft выпустила <strong>VibeASR.cpp</strong> — движок для многоязычного распознавания речи (ASR, Automatic Speech Recognition) в реальном времени прямо на CPU, использующий BitNet I2_S-квантизацию и достигающий RTF &lt; 1 (то есть обрабатывает речь быстрее, чем она звучит) при минимальном количестве потоков на платформах x86 (AVX2) и ARM (NEON).</p>