mpt-7b-8k-peft-compatible
Same as MPT-7B-8K but with gradient checkpointing so you can LORA/QLORA. Not tested yet. MPT-7B-8k is a decoder-style...
Метка: StreamingDatasets
mpt-30b-q8
MPT-30B — это трансформатор в стиле декодера, предварительно обученный с нуля на токенах 1T английского текста и кода....
ct2fast-mpt-30b
Speedup inference while reducing memory by 2x-4x using int8 inference in C++ on CPU or GPU. Checkpoint compatible...
mpt-7b-sail-ep1
This is a fine-tuned variant of MPT-7B, trained on the SAIL dataset (https://arxiv.org/abs/2305.15225). The preprocessed version can be...
mpt-7b-qlora
MPT-7B — это преобразователь в стиле декодера, предварительно обученный с нуля на токенах 1T английского текста и кода....
mpt-7b
MPT-7B — это преобразователь в стиле декодера, предварительно обученный с нуля на токенах 1T английского текста и кода....
mpt-30b-peft-compatible
Это MPT-30B, но с добавленной поддержкой точной настройки с помощью peft (проверено с помощью qlora). Дальнейшей доработки он...
replit-code-v1_5-3b
Replit Code v1.5 — это причинно-следственная языковая модель с 3,3 млрд параметров, ориентированная на завершение кода. Модель обучается...