Llama-3-8B-Stroganoff-2.0-GGUF
Оригинальная модель: https://huggingface.co/HiroseKoichi/Llama-3-8B-Stroganoff-2.0 Спасибо kalomaze и Dampf за помощь в создании набора данных калибровки imatrix Спасибо ZeroWw за...
Метка: gguf
Llama-3.1-8B-african-aya
— Разработано: vutuka — Лицензия: apache-2.0 — Тонкая настройка из модели : unsloth/meta-llama-3.1-8b-bnb-4bit Эта модель ламы была обучена...
mini-magnum-12b-v1.1-GGUF
Оригинальная модель: https://huggingface.co/intervitens/mini-magnum-12b-v1.1, сделанная с помощью https://huggingface.co/FantasiaFoundry/GGUF-Quantization-Script Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: Reiterate3680...
Meta-Llama-3.1-70B-Instruct-GGUF
Официальная библиотека моделей формата GGUF для использования в локальном приложении чата AI, Backyard AI. — Creator: meta-llama —...
SmolLM-135M-Instruct-GGUF
— Model creator: HuggingFaceTB — Original model: HuggingFaceTB/SmolLM-135M-Instruct MaziyarPanahi/SmolLM-135M-Instruct-GGUF contains GGUF format model files for HuggingFaceTB/SmolLM-135M-Instruct. GGUF is...
Tiger-Gemma-9B-v2-GGUF
 This is quantized version of TheDrummer/Tiger-Gemma-9B-v2 created using llama.cpp Decensored Gemma 9B. No refusals so far. No...
Athene-70B-IMat-GGUF
> [!IMPORTANT] > This repo is quantized from the updated version of Athene-70B as of the 24th of...
Triplex-GGUF
 This is quantized version of SciPhi/Triplex created using llama.cpp Knowledge graphs, like Microsoft’s Graph RAG, enhance RAG...
Arcee-Agent-GGUF
 This is quantized version of arcee-ai/Arcee-Agent created using llama.cpp Arcee Agent is a cutting-edge 7B parameter language...
L3-8B-Celeste-V1.2-GGUF
Original model: https://huggingface.co/nothingiisreal/L3-8B-Celeste-V1.2 Thank you kalomaze and Dampf for assistance in creating the imatrix calibration dataset Thank you...