Эта модель представляет собой доработанную версию distilgpt2 для комбинации 4 различных наборов финансовых данных: — causal-lm/finance — gbharti/finance-alpaca — PaulAdversarial/allnewsfinancesm1h2023 — Winddude/redditfinance43_250k Во время обучения использовались следующие гиперпараметры: — скорость обучения: 2e-05 — trainbatchsize: 4 — evalbatchsize: 4 — начальное число: 42 — GradientaccumulationSteps: 64 — Totaltrainbatchsize: 256 — оптимизатор: Адам с betas=(0.9,0.999) и epsilon=1e-08 — lrschedulertype: линейный — num_epochs: 50 — Transformers 4.30.2 — Pytorch 2.0.1+cu117 — Наборы данных 2.13.1 — Токенайзеры 0.13.3
Модальности:
Генерация текста
Задача: Генерация текста
Автор: lxyuan
Теги: gpt2, generated_from_trainer, en, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
