Laurie/opt1.3b-deepspeed-chat

Изображение DeepSpeed-RLHF: DeepSpeed-HE DeepSpeed-Inference ZeRO — 内存优化策略中受益。DeepSpeed-HE на базе LoRA 还能够自动在 RLHF Данные поезда: (английский) —datapath Dahoas/rm-static Dahoas/full-hh-rlhf Dahoas/synthetic-instruct-gptj-pairwise yitingxie/rlhf-reward-datasets openai/webgptcomparisons stanfordnlp/SHP Train Data: (китайский) —datapath wangrui6/Zhihu-KOL Cohere/miracl-zh-queries-22-12 Hello-SimpleAI/HC3-Chinese mkqa-Chinese * 可自定义actor модель 和 модель вознаграждения, модель 亦可单独训练rlhf

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: Laurie
Теги: opt, text-generation-inference, endpoints_compatible
Лайков: 10  |  Загрузок: 13

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.