webbrain-one/gemma4-turkish-26b-a4b-pruned-gguf

google/gemma-4-26B-A4B-it modelinin uzman-budanmış (expert-pruned) ve Türkçeye uyarlanmış versiyonu. Her katmandaki 128 uzmandan 101’i korundu (~%21 küçülme), ardından Türkçe + kod + matematik karışık talimat veriseti üzerinde LoRA ile iyileştirildi. llama.cpp / Ollama / LM Studio ile RTX 5060 (16 GB) veya benzeri tüketici GPU’larda kolayca çalışır. — Matematik akıl yürütme (özellikle çok adımlı problemler) zayıf — 4-bit quant nedeniyle bf16 versiyonuna kıyasla ~%1-2 perplexity artışı — Türkçe-dışı dillerde yazılı talimatlara hâlâ Türkçe cevap verir (system prompt ile değiştirilebilir) — Multi-step math reasoning is weak — ~1-2% perplexity increase vs bf16 due to 4-bit quantization — Defaults to Turkish output; override via system prompt for other languages

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: webbrain-one
Теги: gguf, turkish, türkçe, moe, pruned, gemma, tr, en
Лайков: 3  |  Загрузок: 218

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.