dolphin-2_6-phi-2_oasst2_chatML_V2-GGUF
Файлы квантовой модели GGUF для dolphin-26-phi-2oasst2chatMLV2 от NickyNicky Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор:...
Метка: quantized
Turdus-GPTQ
MaziyarPanahi/Turdus-GPTQ — это квантованная (GPTQ) версия udkai/Turdus. Модальности:Генерация текста Задача: Генерация текста Автор: MaziyarPanahi Теги: mistral, finetuned, quantized,...
tiny-llama-1.1b-chat-medical-GGUF
Файлы квантовой модели GGUF для tiny-llama-1.1b-chat-medical от SumayyaAli Модальности:Генерация текста Области применения:Диалог / чат Медицина Задача: Генерация текста...
bloom-560m-GGUF
BLOOM LM BigScience Большая открытая научная многоязычная языковая модель Карточка модели 1. Подробности модели 2. Использование 3. Предвзятость,...
TinyMistral-248M-GGUF
Файлы квантовой модели GGUF для TinyMistral-248M от Locutusque. Предварительно обученная языковая модель, основанная на модели Mistral 7B, была...
LLaMa_V2-13B-Instruct-Uncensored-GGML
Большое спасибо Эрику Хартфорду за его работу по созданию таких наборов данных, как: — WizardlmevolinstructV2196kunfilteredmergedsplit — Wizardvicuna70kunfiltered Такие...
Agents-A1-4B-Q4_K_M-GGUF
> [!Note] > Этот репозиторий содержит веса моделей и файлы конфигурации для Agents-A1 в формате Hugging Face Transformers....
Hy3-oQ2
Калиброванное 2-битное квантование MLX tencent/Hy3 (Hunyuan 3.0, 295B-A21B MoE), созданное с помощью omlx oQ на уровне 2 —...
Kimi-K2.7-Code-NVFP4
Модель NVIDIA Kimi-K2.7-Code NVFP4 представляет собой квантованную версию модели Kimi-K2.7-Code компании Moonshot AI, которая представляет собой авторегрессионную языковую...
GLM-5.2-NVFP4-AQLM-hybrid
Параметр GLM-5.2 с 744 байтами, квантованный с помощью двухуровневой схемы NVFP4+AQLM для каждого эксперта, обслуживает полный кэш KV...