Эта модель представляет собой доработанную версию meta-llama/Llama-2-13b-hf на наборе данных CONVERSATIONS. Во время обучения использовались следующие гиперпараметры: — learningrate: 2e-05 — trainbatchsize: 8 — evalbatchsize: 8 — seed: 42 — optimizer: Adam с betas=(0.9,0.999) и epsilon=1e-08 — lrschedulertype: linear — lrschedulerwarmupsteps: 50 — num_epochs: 1 — Transformers 4.30.0.dev0 — Pytorch 2.0.1 cu117 — Tokenizers 0.13.3
Модальности:
Генерация текста
Области применения:
Мультиязычность
Задача: Генерация текста
Автор: Sandiago21
Теги: generated_from_trainer, multilingual
Лайков: 2 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.