wandb: https://wandb.ai/open-assistant/supervised-finetuning/runs/kzy0gark command: deepspeed trainersft.py —configs defaults pretrain pythia-6.9b-pretrain —cachedir .cache/ —outputdir .savedmodels/pythia-6.9b-pre —residualdropout 0.0 —deepspeed`
Модальности:
Генерация текста
Задача: Генерация текста
Автор: andreaskoepf
Теги: gpt_neox, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 96
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.