Qwen3.6-27B-NVFP4-GGUF
NVFP4 (родной Blackwell FP4) ГГУФ Qwen3.6-27B (плотный). Однофайловое квантование на основе FP4, которое выполняется на серверной части LocalAI...
NVFP4 (родной Blackwell FP4) ГГУФ Qwen3.6-27B (плотный). Однофайловое квантование на основе FP4, которое выполняется на серверной части LocalAI...
Проверьте последнюю серию моделей: https://huggingface.co/mudler/LocalAI-functioncall-phi-4-v0.3 OpenVINO: https://huggingface.co/fakezeta/LocalAI-Llama3-8b-Function-Call-v0.2-ov-int8 GGUF: https://huggingface.co/mudler/LocalAI-Llama3-8b-Function-Call-v0.2-GGUF Эта модель представляет собой тонкую настройку пользовательского набора данных...