Метка: llm-compressor - Каталог нейросетей

Метка: llm-compressor

Генерация текста

mratsim/MiniMax-M2.1-BF16-INT4-AWQ

Это квант высочайшего качества, который может работать на 192 ГБ видеопамяти > [!TIP] > 💡Это родственная модель mratsim/MiniMax-M2.1-FP8-INT4-AWQ...

Генерация текста

RedHatAI/Qwen3-Coder-Next-NVFP4

— Архитектура модели: Qwen3NextForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...