pingzhili/fairseq-moe-15b-bf16 - Каталог нейросетей
Генерация текста

pingzhili/fairseq-moe-15b-bf16

Добавлено:
pingzhili/fairseq-moe-15b-bf16

This is a Hugging Face transformers-style conversion of the original SMoE 15B-parameter model with BFLOAT16 from the paper «Efficient Large Scale Language Modeling with Mixtures of Experts» from Artetxe et al. The original model card can be found at https://github.com/facebookresearch/fairseq/blob/main/examples/moelm/modelcard.md. The usage example and modeling code can be found at https://github.com/pingzhili/light-fairseq

Модальности:
Генерация текста


Задача: Генерация текста
Автор: pingzhili
Теги: en, endpoints_compatible
Лайков: 3  |  Загрузок: 14

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.