ct2fast-mpt-30b-chat
Speedup inference while reducing memory by 2x-4x using int8 inference in C++ on CPU or GPU. Checkpoint compatible...
Speedup inference while reducing memory by 2x-4x using int8 inference in C++ on CPU or GPU. Checkpoint compatible...
Модель генерации текста Модальности:Генерация текста Области применения:Генерация кода Следование инструкциям Задача: Генерация текста Автор: sahil2801 Теги: mpt, custom_code,...
💵 Donate to OpenAccess AI Collective to help us keep building great tools and models! Minotaur 7B is...
MPT-7B-StoryWriter-65k+ is a model designed to read and write fictional stories with super long context lengths. It was...
MPT-7B is a decoder-style transformer pretrained from scratch on 1T tokens of English text and code. This model...
MPT-7B is a decoder-style transformer pretrained from scratch on 1T tokens of English text and code. This model...
のТрансформаторы は、TinySlime-1.1B-Chat-v1.0 をベースに、TinySlime-1.1B-Chat-v1.0 が作成した合成データを使用して微調整されたチャットモデルです。 このモデルは、スマートフォンや Mixtral-8x7B-Instruct-v0.1 NVIDIA Jetson などの組み込み環境で動かすことを想定して作成されました。 このモデルを使用するには、Hugging Faceライブラリをインストールする必要があります このモデルは、TinyLlama プロジェクトの成果に基づいて構築されました。NLP コミュニティへの貢献に感謝します。 また、このモデルの開発にあたり、Axolotl のサポートとツールを利用しました。 NLP コミュニティへの貢献に感謝します。...
2121-8/TinySlime-1.1B-v1.0 は、TinyLlama/TinyLlama-1.1B-intermediate-step-1431k-3T をベースモデルとし、augmxnt/shisa-pretrain-en-ja-v1 の学習データを使用してトレーニングされたモデルです。本モデルは、5.5B のトークンで学習されました。 このモデルは、スマートフォン、NVIDIA Jetson などの組み込みで動かすことを想定し作成されました。 — ベースモデル: TinyLlama/TinyLlama-1.1B-intermediate-step-1431k-3T — 学習データセット: augmxnt/shisa-pretrain-en-ja-v1 — 学習トークン: 55 億...
Each branch contains an individual bits per weight, with the main one containing only the meaurement.json for further...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: hoangton Теги: gguf, mpt, custom_code, endpoints_compatibleЛайков: 3 | Загрузок:...