70B-L3.3-Cirrus-x1-GGUF
Исходная модель: https://huggingface.co/Sao10K/70B-L3.3-Cirrus-x1 Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Метка: imatrix
Dolphin3.0-Qwen2.5-0.5B-GGUF
Исходная модель: https://huggingface.co/cognitivecomputations/Dolphin3.0-Qwen2.5-0.5B Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Qwentile2.5-32B-Instruct-GGUF
Исходная модель: https://huggingface.co/maldv/Qwentile2.5-32B-Instruct Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
32B-Qwen2.5-Kunou-v1-GGUF
Исходная модель: https://huggingface.co/Sao10K/32B-Qwen2.5-Kunou-v1 Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
YuLan-Mini-GGUF
Исходная модель: https://huggingface.co/yulan-team/YuLan-Mini Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
72B-Qwen2.5-Kunou-v1-GGUF
Исходная модель: https://huggingface.co/Sao10K/72B-Qwen2.5-Kunou-v1 Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Endurance-100B-v1.1-GGUF
Исходная модель: https://huggingface.co/TheDrummer/Endurance-100B-v1.1 Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Rombos-Coder-V2.5-Qwen-32b-GGUF
Исходная модель: https://huggingface.co/rombodawg/Rombos-Coder-V2.5-Qwen-32b Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
VersatiLlama-Llama-3.2-3B-Instruct-Abliterated-Imatrix-GGUF
Точно настроен на обширном наборе данных разговоров и удален для свободы использования. Способен генерировать текст, похожий на человека,...
Llama-3_1-Nemotron-51B-Instruct-GGUF
Исходная модель: https://huggingface.co/nvidia/Llama-3_1-Nemotron-51B-Instruct Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...