https://codeontime.ru/tags/awq/Recent content in AWQ on CodeOnTimeHugoru-ruWed, 12 Aug 2026 00:00:00 +0000https://codeontime.ru/blog/awq-vs-gguf-int4-qwen/Wed, 12 Aug 2026 00:00:00 +0000https://codeontime.ru/blog/awq-vs-gguf-int4-qwen/<h2 id="проблема">Проблема</h2> <p>«Нам нужна Qwen, но не влезает в VRAM». Ответ почти всегда — квантизация. Но форматов несколько: AWQ, GGUF, INT4, и каждый по-разному влияет на VRAM, качество и скорость. Выбор «на слух» приводит к тому, что модель либо не влезает, либо деградирует, либо медленнее, чем могла бы.</p>