yusuf229/mam-turkish-790m

The following hyperparameters were used during training: — learningrate: 4e-05 — trainbatchsize: 4 — evalbatchsize: 8 — seed: 42 — optimizer: Use OptimizerNames.ADAMWBNB with betas=(0.9,0.999) and epsilon=1e-08 and optimizerargs=No additional optimizer arguments — lrschedulertype: linear — trainingsteps: 25000 — Transformers 5.12.1 — Pytorch 2.11.0+cu128 — Datasets 4.0.0 — Tokenizers 0.22.2

Модальности:
Генерация текста

Задача: Генерация текста
Автор: yusuf229
Теги: tensorboard, mamba, generated_from_trainer, text-generation-inference, endpoints_compatible
Лайков: 3  |  Загрузок: 150

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.