mpt-7b-8k-peft-compatible
Same as MPT-7B-8K but with gradient checkpointing so you can LORA/QLORA. Not tested yet. MPT-7B-8k is a decoder-style...
Метка: MosaicML
mpt-30b-q8
MPT-30B — это трансформатор в стиле декодера, предварительно обученный с нуля на токенах 1T английского текста и кода....
ct2fast-mpt-30b
Speedup inference while reducing memory by 2x-4x using int8 inference in C++ on CPU or GPU. Checkpoint compatible...
mpt-7b-sail-ep1
This is a fine-tuned variant of MPT-7B, trained on the SAIL dataset (https://arxiv.org/abs/2305.15225). The preprocessed version can be...
mosaicml-mpt-7b-instruct-lora
MPT-7B-Instruct is a model for short-form instruction following. It is built by finetuning MPT-7B on a dataset derived...
mpt-7b-instruct-sharded
This is a version of the mpt-7b-instruct model, sharded to 2 GB chunks for low-RAM loading (i.e. Colab)....
ct2fast-mpt-30b-instruct
Ускорьте вывод, одновременно уменьшив объем памяти в 2–4 раза, используя вывод int8 в C++ на ЦП или графическом...
mpt-30b-instruct-q8
Эти файлы представляют собой файлы моделей формата .safetensors для MosaicML MPT-30B-Instruct. MPT-30B-Instruct — это модель для выполнения кратких...
mpt-7b-qlora
MPT-7B — это преобразователь в стиле декодера, предварительно обученный с нуля на токенах 1T английского текста и кода....
mpt-7b
MPT-7B — это преобразователь в стиле декодера, предварительно обученный с нуля на токенах 1T английского текста и кода....