WoonaV1.2-9b-GGUF-Imatrix
Иматричные кванты GGUF модели AlexBefest/WoonaV1.2-9b. Все кванты, кроме Q6k и Q80, были получены методом иматричного квантования. — llama.cpp...
Метка: MyLittlePony
WoonaV1.2-9b
GGUF’s: отдельное спасибо secretmoon за ggufs imatrix! Скачать imatrix: https://huggingface.co/secretmoon/WoonaV1.2-9b-GGUF-Imatrix И спасибо mradermacher! Скачать: https://huggingface.co/mradermacher/WoonaV1.2-9b-GGUF QuantFactory: https://huggingface.co/QuantFactory/WoonaV1.2-9b-GGUF Обучение...