Метка: int4 - Страница 5 - Каталог нейросетей

Метка: int4

Генерация текста

RedHatAI/Qwen3-4B-quantized.w4a16

— Архитектура модели: Qwen3ForCausalLM — Вход: Текст — Выход: Текст — Оптимизация модели: — Квантование веса: INT4 —...

Генерация текста

JunHowie/Qwen3-8B-GPTQ-Int4

Эта модель квантуется до 4-бит с размером группы 128. По сравнению с более ранними квантованными версиями, новая квантованная...

Генерация текста

JunHowie/Qwen3-14B-GPTQ-Int4

Эта модель квантуется до 4-бит с размером группы 128. По сравнению с более ранними квантованными версиями, новая квантованная...

Генерация текста

JunHowie/Qwen3-32B-GPTQ-Int4

Эта модель квантуется до 4-бит с размером группы 128. По сравнению с более ранними квантованными версиями, новая квантованная...

Генерация текста

canada-quant/hy3-w4a16-mtp

> Выпущено 16 июля 2026 г. Все этапы пройдены: проверка артефакта (—check-mtp), > качество по сравнению с FP8...

Генерация текста

CosmicRaisins/GLM-5.2-MTP-INT4-15pct

Отдельный проект MTP (многотокеновое предсказание) предназначен для спекулятивного декодирования с помощью CosmicRaisins/GLM-5.2-AWQ-INT4-15pct. cyankiwi/GLM-5.2-AWQ-INT4 удаляет собственный уровень MTP GLM-5.2,...