Метка: quantization - Страница 13 - Каталог нейросетей

Метка: quantization

Генерация текста

Em-80/Qwen3-coder-REAP-25B-A3B-Rust-GGUF

Этот репозиторий предоставляет высокоточные квантованные версии модели Qwen3-Coder-REAP-25B-A3B с пользовательской матрицей важности, созданной Em-80 и специально оптимизированной для...

Генерация текста

lianghsun/Llama-3.2-Taiwan-3B-Instruct-GGUF

Llama-3.2-Taiwan-3B-Instruct-GGUF 是 Llama-3.2-Taiwan-3B-Instruct 透過 llama.cpp 轉換之 .gguf Загрузите файл llama.cpp, Ollama, LM Studio.等推論工具中部署,適合本機端使用。 > ⚠️ 規格重點: > 本模型為...

Генерация текста

ai-in-projectmanagement/ProjectManagementLLM

Специализированная модель большого языка, оптимизированная для задач управления проектами, с интеграцией искусственного интеллекта Microsoft Olive для эффективного развертывания...

Генерация текста

legraphista/DeepSeek-V2-Lite-Chat-IMat-GGUF

Иматричное квантование Llama.cpp deepseek-ai/DeepSeek-V2-Lite-Chat Исходная модель: deepseek-ai/DeepSeek-V2-Lite-Chat Исходный тип dtype: BF16 (bfloat16) Квантование: llama.cpp fork PR 7519 Набор...