Qwen3.6-35B-A3B-OptiQ-4bit
4-битный квант MLX смешанной точности, созданный mlx-optiq — набором инструментов квантования с учетом чувствительности для Apple Silicon. Превосходит...
Метка: 4bit
gemma-2-27b-it-gptq-4bit
— биты: 4 — размер группы: 128 — descact: true — staticgroups: false — sym: true — lmhead:...
Huihui-Qwen3.5-27B-Claude-4.6-Opus-abliterated-Q4_K_M
GGUF 4-битное преобразование huihui-ai/Huihui-Qwen3.5-27B-Claude-4.6-Opus-abliterated. Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: Sepolian Теги: gguf, quantization,...
Qwen3.5-4B-OptiQ-4bit
> Оптимизирован для Apple Silicon с помощью mlx-optiq — квантование смешанной точности с учетом чувствительности, возможность повторного использования...
Qwen3.5-0.8B-OptiQ-4bit
> Оптимизирован для Apple Silicon с помощью mlx-optiq — квантование смешанной точности с учетом чувствительности, возможность повторного использования...
Qwen3.5-REAP-212B-A17B-W4A16
INT4 Qwen 3.5 REAP MoE с квантованием по весу (всего 212 байт / 17 байт активных параметров) Квантование...
GLM-4.7-REAP-218B-A32B-W4A16
> [!TIP] > Поддержите эту работу: donate.sybilsolutions.ai > > Поверхность REAP: GLM | МиниМакс | Квен | Джемма...
pygmalion-6b-4bit-128g
Квантование GPTQ https://huggingface.co/PygmalionAI/pygmalion-6b/commit/b8344bb4eb76a437797ad3b19420a13922aaabe1 Используя этот репозиторий: https://github.com/mayaeary/GPTQ-for-LLaMa/tree/gptj-v2 Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: mayaeary...
pygmalion-6b_dev-4bit-128g
Квантование GPTQ https://huggingface.co/PygmalionAI/pygmalion-6b/commit/30e2405100eac6bd53f75964cc7345eeafd19f7d Используя этот репозиторий: https://github.com/mayaeary/GPTQ-for-LLaMa/tree/gptj-v2 Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: mayaeary...