Эта модель представляет собой доработанную версию meta-llama/Llama-2-7b-chat-hf, обученную на неизвестном наборе данных. Во время обучения использовались следующие гиперпараметры: — learningrate: 5e-05 — trainbatchsize: 4 — evalbatchsize: 4 — seed: 42 — gradientaccumulationsteps: 16 — totaltrainbatchsize: 64 — optimizer: Adam с betas=(0.9,0.999) и epsilon=1e-08 — lrschedulertype: linear — num_epochs: 50 — Transformers 4.35.0.dev0 — Pytorch 2.0.0 — Datasets 2.1.0 — Tokenizers 0.14.1
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Michelvh
Теги: llama, generated_from_trainer, conversational, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.