SimpleBerry/LLaMA-O1-Base-1127

Эта модель представляет собой доработанную версию мета-ламы/Llama-3.1-8B-Instruct для набора данных longcot_pt. Не используйте эту модель без контролируемого обучения. Для непосредственного использования используйте LLaMA-O1-Supervised-1129. Во время обучения использовались следующие гиперпараметры: — скорость обучения: 5e-05 — trainbatchsize: 1 — evalbatchsize: 8 — начальное число: 42 — распределенный тип: multi-GPU — numdevices: 24 — totaltrainbatchsize: 24 — totalevalbatchsize: 192 — оптимизатор: используйте OptimizerNames.ADAMWTORCH с betas=(0.9,0.999) и epsilon=1e-08 иOptimargs=Нет дополнительных аргументов оптимизатора — lrschedulertype: косинус — numepochs: 4.0 — Трансформаторы 4.46.2 — Pytorch 2.3.1 — Наборы данных 3.1.0 — Токенизаторы 0.20.1

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: SimpleBerry
Теги: llama, llama-factory, full, generated_from_trainer, conversational, text-generation-inference, endpoints_compatible
Лайков: 18  |  Загрузок: 6

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.