Qwen2.5-0.5B-Instruct-GGUF
Qwen2.5 — новейшая серия моделей большого языка Qwen. Для Qwen2.5 мы выпускаем ряд базовых языковых моделей и языковых...
Метка: imatrix
Rombo-Org_Rombo-LLM-V3.1-QWQ-32b-GGUF
Исходная модель: https://huggingface.co/Rombo-Org/Rombo-LLM-V3.1-QWQ-32b. Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Некоторые из...
sarashina2.2-3b-instruct-v0.1-GGUF
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Следование инструкциям Задача: Генерация текста Автор: yasu-oh Теги: gguf,...
qihoo360_TinyR1-32B-Preview-v0.1-GGUF
Исходная модель: https://huggingface.co/qihoo360/TinyR1-32B-Preview. Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Изменения в...
ibm-granite_granite-3.2-8b-instruct-GGUF
Исходная модель: https://huggingface.co/ibm-granite/granite-3.2-8b-instruct. Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Некоторые из...
arcee-ai_Arcee-Blitz-GGUF
Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Некоторые из этих квантов (Q3KXL,...
TheDrummer_Anubis-Pro-105B-v1-GGUF
Исходная модель: https://huggingface.co/TheDrummer/Anubis-Pro-105B-v1. Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Некоторые из...
TheDrummer_Gemmasutra-Pro-27B-v1.1-GGUF
Исходная модель: https://huggingface.co/TheDrummer/Gemmasutra-Pro-27B-v1.1. Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Некоторые из...
Confucius-o1-14B-GGUF
Исходная модель: https://huggingface.co/netease-youdao/Confucius-o1-14B Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
L3.3-Nevoria-R1-70b-GGUF
Исходная модель: https://huggingface.co/Steelskull/L3.3-Nevoria-R1-70b Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...