openaccess-ai-collective/openhermes-2_5-dpo-no-robots

Эта модель представляет собой версию teknium/OpenHermes-2.5-Mistral-7B с тонкой настройкой RL на наборе данных предпочтений, полученном из набора данных HuggingFace без роботов с использованием DPO. Во время обучения использовались следующие гиперпараметры: — скорость обучения: 5e-07 — trainbatchsize: 2 — evalbatchsize: 8 — начальное число: 42 — распределенный тип: multi-GPU — numdevices: 8 -gradientaccumulationsteps: 4 — totaltrainbatchsize: 64 — totalevalbatchsize: 64 — оптимизатор: Адам с betas=(0,9,0,999) и epsilon=1e-08 — lrschedulertype: линейный — lrschedulerwarmupsteps: 20 — Training_steps: 408 — Трансформеры 4.35.2 — Pytorch 2.0.1+cu118 — Наборы данных 2.15.0 — Токенизаторы 0.15.0

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: openaccess-ai-collective
Теги: mistral, generated_from_trainer, conversational, text-generation-inference, endpoints_compatible
Лайков: 11  |  Загрузок: 21

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.