> [!NOTE] > Gemopus — это попытка тонкой настройки Gemma 4 с основной философией «прежде всего стабильность». > > Сохраняя, насколько это возможно, первоначальный порядок рассуждений Джеммы 4, мы провели целенаправленные улучшения качества, структуры, ясности и последовательности ответов. > > Эта модель была обучена в среде Unsloth после исправлений, после официальных исправлений Unsloth по накоплению градиента и учету потерь для обучения семейства Gemma. На практике я использовал стек с исправленными ошибками, согласованный с unslothzoo>=2026.4.6 и Transformers==5.5.0, чтобы избежать вводящего в заблуждение увеличения потерь при накоплении градиента и получить более надежное поведение оптимизации для тонкой настройки Gemma 4 31B. > > 🍎 Поэтому Моя стратегия тонкой настройки решила не следовать за другими командами в агрессивной прямой перегонке с Клода. Вместо этого мы выбрали более консервативный и контролируемый путь.** Gemopus-4-31B — это контролируемая версия с точной настройкой, основанная на модели инструкций Gemma 4 31B. Хотя в названии этой модели есть слово «Opus», оно скорее является продолжением соглашения об именовании. Цель здесь не в том, чтобы отрицать, что рассуждения SFT могут обобщать при правильных условиях, а в том, чтобы избежать наивности или суеверий…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: Jackrong
Теги: gguf, gemma, gemma4, instruction-tuned, reasoning, alignment, en, zh
Лайков: 11 | Загрузок: 1,347
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
