Эта модель представляет собой доработанную версию bigscience/bloom-560m на наборе данных common_gen. В оценочном наборе достигаются следующие результаты: — Потеря: 1.3937 При обучении использовались следующие гиперпараметры: — скорость обучения: 5e-05 — размер партии: 1 — размер партии: 1 — семя: 42 — шаги градиентного накопления: 4 — общий размер партии: 4 — оптимизатор: Адам с бета=(0.9,0.999) и эпсилон= 1e-08 — тип lrschedulertype: линейный — numepochs: 2 — mixedprecision_training: Native AMP — Transformers 4.22.1 — Pytorch 1.12.1 cu113 — Datasets 2.5.1 — Tokenizers 0.12.1
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mrm8488
Теги: tensorboard, bloom, generated_from_trainer, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 31
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
