SmolLM2-1.7B-Instruct-GGUF
— Model creator: HuggingFaceTB — Original model: HuggingFaceTB/SmolLM2-1.7B-Instruct MaziyarPanahi/SmolLM2-1.7B-Instruct-GGUF contains GGUF format model files for HuggingFaceTB/SmolLM2-1.7B-Instruct. GGUF is...
Метка: quantized
Mistral-Small-Instruct-2409-GGUF
— Создатель модели: mistralai — Исходная модель: mistralai/Mistral-Small-Instruct-2409 MaziyarPanahi/Mistral-Small-Instruct-2409-GGUF содержит файлы моделей формата GGUF для mistralai/Mistral-Small-Instruct-2409. GGUF —...
reader-lm-0.5b-GGUF
— Создатель модели: jinaai — Исходная модель: jinaai/reader-lm-0.5b arcee-train/reader-lm-0.5b-GGUF содержит файлы модели формата GGUF для jinaai/reader-lm-0.5b. GGUF —...
DeepSeek-V2.5-IMat-GGUF
Исходная модель: deepseek-ai/DeepSeek-V2.5 Исходный тип dtype: BF16 (bfloat16) Квантизация: llama.cpp b3675 Набор данных IMatrix: здесь — Файлы —...
SmolLM-1.7B-Instruct-GGUF
— Создатель модели: HuggingFaceTB — Исходная модель: HuggingFaceTB/SmolLM-1.7B-Instruct MaziyarPanahi/SmolLM-1.7B-Instruct-GGUF содержит файлы модели формата GGUF для HuggingFaceTB/SmolLM-1.7B-Instruct. GGUF —...
Llama-3-Groq-70B-Tool-Use-GGUF
— Создатель модели: Groq — Исходная модель: Groq/Llama-3-Groq-70B-Tool-Use MaziyarPanahi/Llama-3-Groq-70B-Tool-Use-GGUF содержит файлы моделей формата GGUF для Groq/Llama-3-Groq-70B-Tool-Use. GGUF —...
Gemma-2-9B-It-SPPO-Iter3-IMat-GGUF
Иматричное квантование Llama.cpp UCLA-AGI/Gemma-2-9B-It-SPPO-Iter3 Исходная модель: UCLA-AGI/Gemma-2-9B-It-SPPO-Iter3 Исходный тип dtype: BF16 (bfloat16) Квантование: llama.cpp b3311 Набор данных IMatrix:...
DeepSeek-V2-Lite-IMat-GGUF
Иматричное квантование Llama.cpp deepseek-ai/DeepSeek-V2-Lite Исходная модель: deepseek-ai/DeepSeek-V2-Lite Исходный тип dtype: BF16 (bfloat16) Квантизация: llama.cpp https://github.com/ggerganov/llama.cpp/pull/7519 Набор данных IMatrix:...
Yi-1.5-9B-Chat-GGUF
— Создатель модели: 01-ai — Исходная модель: 01-ai/Yi-1.5-9B-Chat MaziyarPanahi/Yi-1.5-9B-Chat-GGUF содержит файлы модели формата GGUF для 01-ai/Yi-1.5-9B-Chat. GGUF —...
Llama-3-8B-Instruct-v0.8-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/Llama-3-8B-Instruct-v0.8 MaziyarPanahi/Llama-3-8B-Instruct-v0.8-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/Llama-3-8B-Instruct-v0.8. GGUF —...