An 8-bit enhanced oQ quantization of Kwaipilot/KAT-Coder-V2.5-Dev for Apple Silicon and MLX-compatible runtimes. The full calibration summary is available in oqimatrixreport.json.
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: ZQ-Dev
Теги: mlx, qwen3_5_moe, conversational, 8-bit
Лайков: 3 | Загрузок: 189
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
google/gemma-2-9b квантовано до ONNX GenAI INT4 с оптимизацией Microsoft DirectML. Вывод переформатируется так, что каждое предложение начинается с...
This model was converted to GGUF format from Surpem/Supertron1-4B using llama.cpp via the ggml.ai’s GGUF-my-repo space. Refer to...
> Примечание. Эта модель оптимизирована для графических процессоров Blackwell (SM121). Для H100/A100 рассмотрите версию BF16 с нашим многоарочным...
Объединение L3-Jamet-8B-MK.V-Blackroot (8b) с Llama3 Instruct (8b) с созданием модели 12.2B для улучшения выполнения инструкций и вывода. Уникальная...
