Quantization on AI-Uchi — Всё об искусственном интеллектеhttps://ai-uchi.ru/tags/quantization/Recent content in Quantization on AI-Uchi — Всё об искусственном интеллектеHugoruTue, 11 Aug 2026 03:11:33 +0300Needle2: агентный LLM размером 14 МБ для умных устройствhttps://ai-uchi.ru/news/needle2-agentny-llm-14mb-dlya-ustroystv/Tue, 11 Aug 2026 03:11:33 +0300https://ai-uchi.ru/news/needle2-agentny-llm-14mb-dlya-ustroystv/<h2 id="агентный-ии-умещается-в-14-мегабайт">Агентный ИИ умещается в 14 мегабайт</h2> <p>Компания Cactus Compute выпустила Needle 2 — открытую модель с 45 миллионами параметров для вызова инструментов (tool calling), управления устройствами и структурного извлечения данных. Вся модель — это единственный бинарный файл на 14 МБ, работающий в полноценной сессии при 28 МБ оперативной памяти. Это значит, что полноценный агентный ИИ теперь помещается на смартфон, умные часы или микроконтроллер — без облака и без подключения к сети.</p>