10 FebarticleКвантование моделей: запуск большой LLM на слабом железеКак с помощью квантования запустить большие языковые модели на обычном ПК. Методы GPTQ, AWQ, GGUF, …→