https://ai-uchi.ru/tags/on-device-inference/Recent content in On-Device Inference on AI-Uchi — Всё об искусственном интеллектеHugoruFri, 31 Jul 2026 08:00:00 +0300https://ai-uchi.ru/articles/gemma-4-26b-2gb-ram-turbofieldfare-mac/Fri, 31 Jul 2026 08:00:00 +0300https://ai-uchi.ru/articles/gemma-4-26b-2gb-ram-turbofieldfare-mac/<h2 id="введение-26-миллиардов-параметров-в-кармане">Введение: 26 миллиардов параметров в кармане</h2> <p>Представьте: вы открываете MacBook Air с базовыми 8 ГБ памяти — и запускаете языковую модель с 26 миллиардами параметров. Без облака, без подписки, без GPU за $5000. Именно это стало реальностью благодаря проекту <strong>TurboFieldfare</strong> — специализированному движку для инференса, появившемуся на Hacker News и мгновенно привлёкшему внимание разработчиков.</p> <p>Автор собрал специализированный движок для запуска 4-bit Gemma 4 26B-A4B-IT на любом Mac с чипом M-серии, используя около 2 ГБ оперативной памяти. Это звучит почти невозможно — ведь стандартный 4-bit вариант модели занимает 14–18 ГБ. Как это работает и почему это важно — разбираемся в этой статье.</p>