Llama-3.2-1B
The Meta Llama 3.2 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction-tuned...
Метка: it
Llama-3.2-3B-Instruct-FP8-dynamic
— Model Architecture: Meta-Llama-3.2 — Input: Text — Output: Text — Model Optimizations: — Weight quantization: FP8 —...
Mistral-Small-Instruct-2409-abliterated-gguf
This model was converted to GGUF format from byroneverson/Mistral-Small-Instruct-2409-abliterated using llama.cpp via the ggml.ai’s GGUF-my-repo space. Refer to...
TypressAI-9B
This is a merge of pre-trained language models created using mergekit. Excellent merge for writing texts and narratives...
Violet_Twilight-v0.2-exl2
Now for something a bit different, VioletTwilight-v0.2! This model is a SLERP merge of AzureDusk-v0.2 and Crimson_Dawn-v0.2! The...
Artemide-3.5
This model is a finetuned version of Phi-3.5-mini-instruct on the ReDiX/DataForge dataset. The dataset is a mixture of...
aya-23-8B-quantized
Contact me if you have suggestions for models to compress next or if you want to compress your...
magnum-v2-123b-GGUF
Оригинальная модель: https://huggingface.co/anthracite-org/magnum-v2-123b Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) являются стандартным методом квантования с вложениями...
magnum-v2-72b-gguf
Это седьмой (Lucky!) из серии моделей, предназначенных для воспроизведения качества прозы моделей Claude 3, а именно Sonnet и...
magnum-v2-72b-exl2
Это седьмой (Lucky!) из серии моделей, предназначенных для воспроизведения качества прозы моделей Claude 3, а именно Sonnet и...