Адаптер LoRA, благодаря которому google/gemma-4-31B-it изначально говорит в режиме пещерного человека. Дроп статьи, наполнитель, любезности, подстраховка. Допускает фрагменты. Сохраняет блоки кода, имена функций, строки ошибок и команды CLI с точностью до байта. Шаблон: [вещь] [действие] [причина]. [следующий шаг]. Для удобства объединенного варианта см. JBrussee/gemma-4-31B-caveman (62 ГБ). — Файл адаптера: адаптерmodel.safetensors (~534 МБ) — Цели: qproj, kproj, vproj, oproj,gateproj, upproj, downproj — Ранг 16, α 32, отсев 0 — Обучение с помощью Unsloth + TRL 0,17 SFTTrainer, завершениеonlyloss=True — 3 эпохи более 1750 поездов/193 пары оценок Код сохранность 96-100%, плотность статьи 0,5-2%, семантическая сохранность 91-98%. Сжатие ~10-40% (слаже, чем у золота 50-70%). Полный код, конвейер данных и конфигурации: https://github.com/JuliusBrussee/finetune-caveman Наследует политику запрещенного использования Gemma. База Apache 2.0 + условия Gemma применяются ко всем результатам. Код репозитория: MIT. Набор правил стиля пещерного человека — MIT (https://github.com/JuliusBrussee/caveman).
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: JBrussee
Теги: peft, caveman, style-transfer, lora, gemma, gemma-license, conversational, en
Лайков: 6 | Загрузок: 59
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
