Bielik-11B-v2.2-Instruct-AWQ
This repo contains AWQ format model files for SpeakLeash’s Bielik-11B-v.2.2-Instruct. DISCLAIMER: Be aware that quantised models show reduced...
Метка: gguf
Bielik-11B-v2.2-Instruct-MLX-4bit
This model was converted to MLX format from SpeakLeash’s Bielik-11B-v.2.2-Instruct. DISCLAIMER: Be aware that quantised models show reduced...
Bielik-11B-v2.2-Instruct-GPTQ
This repo contains GPTQ format model files for SpeakLeash’s Bielik-11B-v.2.2-Instruct. DISCLAIMER: Be aware that quantised models show reduced...
Gemma-2-Ataraxy-9B-GGUF
 This is quantized version of lemon07r/Gemma-2-Ataraxy-9B created using llama.cpp Huge thanks to @mradermacher and @bartowski for making...
Phi-3.5-mini-instruct-python_coding_assistant-GGUF_16bit
Code Generation Assistant | Unknown parameters | Fully Local | Powered by P2PCLAW > P2PCLAW is the world’s...
Infinity-Instruct-7M-Gen-Llama3_1-70B-GGUF
Original model: https://huggingface.co/BAAI/Infinity-Instruct-7M-Gen-Llama3_1-70B Some of these quants (Q3KXL, Q4KL etc) are the standard quantization method with the embeddings...
SILMA-9B-Instruct-v1.0-GGUF
 This is quantized version of silma-ai/SILMA-9B-Instruct-v1.0 created using llama.cpp SILMA.AI is a leading Generative AI startup dedicated...
calme-2.1-phi3.5-4b-GGUF
Оригинальная модель: https://huggingface.co/MaziyarPanahi/calme-2.1-phi3.5-4b Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) являются стандартным методом квантования с квантованием...
functionary-medium-v3.2-GGUF
Оригинальная модель: https://huggingface.co/meetkai/functionary-medium-v3.2 Новые обновления от mlabonne, никаких подробностей, но я уверен, что это того стоит! Некоторые из...
magnum-v2-123b-GGUF
Оригинальная модель: https://huggingface.co/anthracite-org/magnum-v2-123b Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) являются стандартным методом квантования с вложениями...