AlphaMonarch-laser — это DPO, доработанный для mlabonne/NeuralMonarch-7B с использованием набора данных предпочтений argilla/OpenHermes2.5-dpo-binarized-alpha, но обеспечивающий более высокую производительность, чем mlabonne/AlphaMonarch-7B с использованием LaserQLoRA. Я доработал эту модель только на половине прогнозов, но добился лучших результатов по сравнению с версией, выпущенной Максимом Лабонном. Я обучил эту модель 1080 шагам. AlphaMonarch-laser занимает первое место в рейтинге YALL — Еще одна таблица лидеров LLM. !image/png Во время обучения использовались следующие гиперпараметры: — скорость обучения: 5e-07 — trainbatchsize: 1 — evalbatchsize: 8 — начальное число: 42 -gradientaccumulationsteps: 8 — totaltrainbatchsize: 8 — оптимизатор: Адам с betas=(0.9,0.999) и epsilon=1e-08 — lrschedulertype: cosine — lrschedulerwarmupsteps: 100 — TrainingSteps: 1080 — Transformers 4.38.0.dev0 — Pytorch 2.1.2+cu118 — Наборы данных 2.17.0 — Токенизаторы 0.15.0 — axolotl: 0.4.0
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: abideen
Теги: mistral, generated_from_trainer, axolotl, instruct, finetune, chatml, gpt4, synthetic data
Лайков: 10 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
