Тонкая настройка LoRA из ибм-гранита/гранита-4.1-3b, контролируемая тонкая настройка на ermiaazarkhalili/claude-reasoning-distillation (private) (config sft). Измерено из наших журналов SLURM для этой конфигурации. Это только наблюдения за потерями в обучении — на этой модели не проводилась контрольная оценка ниже по потоку, поэтому их не следует рассматривать как претензию к качеству. — Эталонная оценка на этой контрольной точке не проводилась. Единственные сообщенные цифры — это наблюдения за потерями в обучении. — Наследует смещения, отсечение знаний и режимы отказов базовой модели. — Тонко настроен на одном наборе данных, следующих за инструкциями; поведение за пределами этого распределения непроверено. — Адаптеры LoRA были объединены с базовыми весами, поэтому объединенная модель не может быть отделена от этой тонкой настройки. Обученный с помощью ноутбуков/sftdistillationgranite4.1-3bunsloth.ipynb `, выполненный без взаимодействия с бумажной фабрикой на перегородке SLURM H100 (Unsloth TRL, LoRA). Карточка, сгенерированная из собственной конфигурации тренировочного прогона и логов по scripts/generatehubmodelcard.py.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ermiaazarkhalili
Теги: granite, unsloth, lora, trl, sft, conversational, endpoints_compatible
Лайков: 3 | Загрузок: 47
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
