MPT-7B — это преобразователь в стиле декодера, предварительно обученный с нуля на токенах 1T английского текста и кода. Эта модель была обучена MosaicML. MPT-7B является частью семейства моделей MosaicPretrainedTransformer (MPT), в которых используется модифицированная архитектура трансформатора, оптимизированная для эффективного обучения и вывода.
Модальности:
Генерация текста
Языки программирования:
Rust
Задача: Генерация текста
Автор: rustformers
Теги: mpt, llm-rs, ggml, en
Лайков: 46 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.