Spark-X2.5-4B-Q8_0-GGUF
Q8_0 квантования XHToken/Spark-X2.5-4B, преобразованного из официального BF16 GGUF с совместимой реализацией XHToken/llama.cpp. Для поддержки Spark-X2.5 требуется совместимая реализация...
Метка: Q8_0
Mellum2-12B-A2.5B-Thinking-GGUF
Text generation model Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: JSchneemann Теги: gguf, llama.cpp, mellum,...
smollm2-135M-instruct-gguf-q8
A tiny yet powerful instruction-tuned language model optimized for CPU inference. With only 135 million parameters and a...
DeepSeek-R1-Distill-Qwen-32B-Uncensored-Q8_0-GGUF
Репо: roleplaiapp/DeepSeek-R1-Distill-Qwen-32B-Uncensored-Q80-GGUF Исходная модель: DeepSeek-R1-Distill-Qwen-32B-Uncensored Квантованный файл: DeepSeek-R1-Distill-Qwen-32B-Uncensored.Q80.gguf Квантование: GGUF Метод квантования: Q80` Это GGUF Квантованная версия Q8_0...
Ornith-1.0-35B-AEON-Ultimate-Uncensored-MTP-GGUF
Преобразования GGUF AEON-7/Ornith-1.0-35B-AEON-Ultimate-Uncensored с тензорами MTP (Multi-Token Prediction), привитыми для поддержки спекулятивного декодирования. Базовая модель — это урезанный...
Darwin-35B-A3B-Opus-Q8-GGUF
> Q8_0 ГГУФ Дарвин-35Б-А3Б-Опус | ~37 ГБ (3 осколка) | GPQA Бриллиант 90,0% | Качество почти без потерь...