Qwen3-Coder-30B-A3B-Instruct-FP8-Q6_K-GGUF
Эта модель была преобразована в формат GGUF из Qwen/Qwen3-Coder-30B-A3B-Instruct-FP8 с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную...
Метка: llama-cpp
Qwen3-4b-toolcall-gguf-llamacpp-codex
Специализированная модель параметров 4B, точно настроенная для вызова функций и использования инструментов, оптимизированная для локального развертывания с помощью...
neutrino-instruct
!Alt text Neutrino-Instruct — это LLM с 7B параметрами, настраиваемый инструкциями, разработанный Fardeen NB. Он предназначен для разговорного...
QwQ-32B-Preview-Q4_K_M-GGUF
Эта модель была преобразована в формат GGUF из Qwen/QwQ-32B-Preview с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную...
Llama-2-7b-chat-hf-Q4_K_M-GGUF
Эта модель была преобразована в формат GGUF из мета-ламы/Llama-2-7b-chat-hf с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную...
Llama-Doctor-3.2-3B-Instruct-GGUF
Модель Llama-Doctor-3.2-3B-Instruct предназначена для задач генерации текста, особенно в контекстах, где необходимы возможности следования инструкциям. Эта модель представляет...
gemma-2-27b-it-abliterated-GGUF
Это квантованная версия byroneverson/gemma-2-27b-it-abliterated, созданная с использованием llama.cpp. Это новый подход к удалению моделей, использующих только процессор. Мне...
granite-8b-code-instruct-Q8_0-GGUF
Эта модель была преобразована в формат GGUF из ibm-granite/granite-8b-code-instruct с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную...
LLama-3-8b-Uncensored-Q4_K_M-GGUF
Погрузитесь в тонкости GGUF, тщательно разработанного формата, построенного на прочной основе модели GGJT. Созданный для обеспечения повышенной расширяемости...
Mellum2-12B-A2.5B-Instruct-GGUF-Q4_K_M
Этот репозиторий содержит квантование GGUF Q4KM JetBrains/Mellum2-12B-A2.5B-Instruct, готовое к работе с llama.cpp, Ollama, LM Studio и другими GGUF-совместимыми...