DeepSeek-R1-NVFP4-v2
Модель NVIDIA DeepSeek R1 FP4 v2 — это квантованная версия модели DeepSeek R1 компании DeepSeek AI, которая представляет...
Метка: quantized
gemma-3-27b-it-GGUF
— Создатель модели: google — Исходная модель: google/gemma-3-27b-it MaziyarPanahi/gemma-3-27b-it-GGUF содержит файлы моделей формата GGUF для google/gemma-3-27b-it. GGUF —...
phi-4-GGUF
— Создатель модели: microsoft — Исходная модель: microsoft/phi-4 MaziyarPanahi/phi-4-GGUF содержит файлы моделей формата GGUF для microsoft/phi-4. GGUF —...
Reflection-Llama-3.1-70B-IMat-GGUF
>[!ПРЕДУПРЕЖДЕНИЕ] >Потенциально нарушенные веса, см. https://x.com/mattshumer_/status/1832424499054309804?s=46 >После разрешения это сообщение исчезнет. Иматричное квантование Llama.cpp mattshumer/Reflection-Llama-3.1-70B Исходная модель: mattshumer/Reflection-Llama-3.1-70B...
calme-2.3-legalkit-8b-GGUF
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/calme-2.3-legalkit-8b MaziyarPanahi/calme-2.3-legalkit-8b-GGUF содержит файлы модели формата GGUF для MaziyarPanahi/calme-2.3-legalkit-8b. GGUF —...
codegeex4-all-9b-IMat-GGUF
Исходная модель: THUDM/codegeex4-all-9b Исходный тип dtype: BF16 (bfloat16) Квантизация: https://github.com/ggerganov/llama.cpp/pull/8031 Набор данных IMatrix: здесь — Файлы — IMatrix...
Qwen2-1.5B-Instruct-GGUF
— Создатель модели: Qwen — Исходная модель: Qwen/Qwen2-1.5B-Instruct MaziyarPanahi/Qwen2-1.5B-Instruct-GGUF содержит файлы модели формата GGUF для Qwen/Qwen2-1.5B-Instruct. GGUF —...
Higgs-Llama-3-70B-IMat-GGUF
Исходная модель: bosonai/Higgs-Llama-3-70B Исходный тип dtype: FP32 (float32) Квантизация: llama.cpp b3091 Набор данных IMatrix: здесь — Файлы —...
Nous-Hermes-2-Mistral-7B-DPO-AWQ
— Создатель модели: NousResearch — Исходная модель: OpenHermes Mistral 2.5 7B DPO Модель до DPO была обучена на...
gemma-7b-it-GGUF
— Создатель модели: google — Исходная модель: google/gemma-7b-it MaziyarPanahi/gemma-7b-it-GGUF содержит файлы моделей формата GGUF для google/gemma-7b-it. Спасибо TheBloke...