AlphaMonarch-daser представляет собой смесь двух методов: LaserQlora и Dora. Эта модель представляет собой DPO, доработанную для mlabonne/NeuralMonarch-7B с использованием набора данных предпочтений argilla/OpenHermes2.5-dpo-binarized-alpha. Я доработал эту модель только на половине проекций, но добился лучших результатов по сравнению с версией, выпущенной AlphaMonarch-dora. Я обучил эту модель 1080 шагам. Сравнение AlphaMonarch, AlphaMonarch-laser, AlphaMonarch-daser и AlphaMonarch-dora в таблице лидеров OpenLLM: В таблице лидеров YALL: AlphaMonarch-daser > AlphaMonarch-dora > AlphaMonarch > AlphaMonarch-laser На стенде OpenLLM: AlphaMonarch-laser > AlphaMonarch > AlphaMonarch-daser > AlphaMonarch-dora Во время обучения использовались следующие гиперпараметры: — скорость обучения: 5e-07 — trainbatchsize: 1 — evalbatchsize: 8 — начальное число: 42 — градиентаккумуляция шагов: 8 — общий размер поезда: 8 — оптимизатор: Адам с betas=(0,9,0,999) и epsilon=1e-08 — lrschedulertype: cosine — lrschedulerwarmupsteps: 100 — TrainingSteps: 1080 — Трансформеры 4.38.0.dev0 — Pytorch 2.1.2+cu118 — Наборы данных 2.17.0 — Токенизаторы 0.15.0
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: abideen
Теги: mistral, generated_from_trainer, axolotl, instruct, finetune, chatml, gpt4, synthetic data
Лайков: 11 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
