gemma-4-12B-it-qat-assistant-4bit
This repository contains Multi-Token Prediction (MTP) drafter weights split from google/gemma-4-12B-it-qat-q40-unquantized-assistant for use with mlx-vlm` speculative decoding. This...
Метка: gemma-4-12B
FabGemma
FabGemma-12B — это усовершенствованная оптимизация Google Gemma 4 12B Instruct, основанная на рассуждениях. Он был специально настроен для...
Gemma-4-12B-it-AEON-Abliterated-K4-FP8
> 8-битное FP8-квантование почти без потерь нашей бипроекционной аблитерации K=4 google/gemma-4-12B-it. Соответствует возможностям BF16 (MMLU, HumanEval, IFEval, все...