mpt-7b-gsm8k-pruned80-quant-ds
Paper: Sparse Finetuning for Inference Acceleration of Large Language Models Code: https://github.com/neuralmagic/deepsparse/tree/main/research/mpt This model was produced from a...
Paper: Sparse Finetuning for Inference Acceleration of Large Language Models Code: https://github.com/neuralmagic/deepsparse/tree/main/research/mpt This model was produced from a...
MPTK-1B는 한국어/영어코드 데이터셋에서 학습된 1.3B 파라미터의 decoder-only transformer 언어모델입니다. 이 모델은 구글의 TPU Research Cloud(TRC)를 통해 지원받은 Cloud...
Базовая языковая модель 7B, предварительно обученная на текстах на хинди с размером контекста 2048. Веса инициализированы на основе...
MPT-7B is a decoder-style transformer pretrained from scratch on 1T tokens of English text and code. This model...
You need auto-gptq installed to run the following: pip install auto-gptq Модальности:Генерация текста Области применения:Диалог / чат Задача:...
MPT-30B-Instruct is a model for short-form instruction following. This model is a 4-bit 128 group size AWQ quantized...
Инструмент: llm-foundry от MosaicML (https://github.com/mosaicml/llm-foundry) Конфигурационный файл YAML с параметрами модели: https://huggingface.co/iamplus/mpt-30b-v3/blob/main/mpt-30b_orca.yaml Описание: mosaicml/mpt-30b -> Дообучение на (весь...
MPT-7B-StoryWriter-65k — это модель, предназначенная для чтения и написания художественных рассказов со сверхдлинным контекстом. Она была создана путем дообучения...
MPT-7B-Instruct — это модель для выполнения коротких инструкций. Она создана путем дообучения MPT-7B на наборе данных, полученном из наборов...
This is the MPT-30B-Instruct but with added support to finetune using peft (tested with qlora). It is not...