> 4-bit NF4 quantized version of fuse-1 Lite. 3.36 GB VRAM — runs on T4, RTX 3060, and consumer GPUs. This is the bitsandbytes 4-bit quantized version of fuse-1 Lite, using NF4 (NormalFloat 4-bit) quantization with double quantization for maximum compression. See the main model card for full architecture details, training info, and technical report.
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: Akahsizrr
Теги: fuse3, mixture-of-experts, MoE, coding, 4-bit, nf4, bitsandbytes, quantized
Лайков: 3 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
