13
Oct
news
Microsoft BitNet: 1-битные LLM уходят на CPU и в распознавание речи
Microsoft обновила BitNet: новый движок VibeASR.cpp, первые 1-битные embedding-модели и ускорение до …
→
Inference
11
материалов
30
Sep
tool-review
TensorFold: точный inference LLM на Apple Silicon
Обзор TensorFold — открытого движка для запуска LLM на Apple Silicon с точным спекулятивным …
→
27
Aug
translation
Полный стек за «обильным» ИИ: чипы, вычисления, модели
Финансовый директор OpenAI Сара Фрайер рассказывает, как чипы, вычисления, модели и продукты в …
→
15
Aug
translation
GPT-5.6 Sol Ultrafast: скорость 750 токенов в секунду
OpenAI и Cerebras запустили Ultrafast — новый уровень API с GPT-5.6 Sol до 14× быстрее стандарта. До …
→
13
Aug
article
macOS VM + llama.cpp: в 16× быстрее на Apple Silicon
Как команда Cua разогнала LLM-инференс внутри macOS VM до 98% скорости bare-metal с помощью шима …
→
02
Aug
article
AI-вычисления как сырьевой товар: что это меняет
Становятся ли AI-вычисления биржевым товаром? Разбираем тренды 2025–2026: падение цен, новые рынки и …
→
31
Jul
translation
GPT-5.6: как OpenAI объединила интеллект и эффективность
GPT-5.6 — новое семейство моделей OpenAI: как Sol, Terra и Luna сочетают высокий интеллект с …
→
04
Jun
news
AirLLM: запуск 70B модели на GPU с 4 ГБ VRAM
AirLLM позволяет запускать 70B языковые модели на одной GPU с 4 ГБ VRAM без квантизации и прунинга — …
→
06
May
tool-review
Rapid-MLX: самый быстрый локальный AI на Mac
Обзор Rapid-MLX — open-source движка для запуска LLM на Apple Silicon. В 4.2x быстрее Ollama, 100% …
→
04
May
translation
TPU от Google: как работают чипы для самых тяжёлых задач ИИ
Разбираем архитектуру TPU от Google: от первого поколения до Ironwood и TPU 8-го поколения — зачем …
→