fuse-1-Lite-4bit
> 4-bit NF4 quantized version of fuse-1 Lite. 3.36 GB VRAM — runs on T4, RTX 3060, and...
> 4-bit NF4 quantized version of fuse-1 Lite. 3.36 GB VRAM — runs on T4, RTX 3060, and...
> Примечание. ZAYA1-8B использует собственную разреженную архитектуру MoE (ZayaForCausalLM), которая еще не поддерживается llama.cpp. Файлы GGUF будут добавлены...