Некоторое время назад я случайно наткнулся на отчет Грифа о «Настройке стиля» (Gemma-4-31B-StyleTune). По крайней мере, для меня эта концепция была совершенно новой, но звучала невероятно многообещающе, поэтому мне просто пришлось проверить ее на себе. Эта модель является результатом этого эксперимента: техническое испытание хирургической настройки стиля, чтобы проверить, эффективно ли работает изолирующий стиль на один тензор (lmhead) при замораживании веса ядра на архитектуре Mistral-NeMo-12B**. Обычно при точной настройке изменяется как можно больше слоев, чтобы привести обоснование и форматирование модели в соответствие с новым набором данных. Этот подход «StyleTune» делает прямо противоположное: 1. Замораживание всего: все уровни внимания и MLP (уровни 0–39) остаются совершенно нетронутыми. Основная логика, мировые знания и возможности выполнения инструкций сохраняются в том виде, в каком они были. 2. Нацельтесь на языковой центр: тренируется только один тензор — lmhead (выходная проекция). Переучивая только лмголову, модель не становится «умнее» или «тупее», но ее словарный запас, структура предложений и качество прозы полностью перекалибровываются. Это меняет голос* модели, а не ее мозг. Эпохи: 3. Скорость обучения: 4e-4…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ewald1976
Теги: nemo, mistral, sft, unsloth, style-tune, roleplay, creative, 12b
Лайков: 6 | Загрузок: 177
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
