2121-8/TinySlime-1.1B-v1.0 は、TinyLlama/TinyLlama-1.1B-intermediate-step-1431k-3T をベースモデルとし、augmxnt/shisa-pretrain-en-ja-v1 の学習データを使用してトレーニングされたモデルです。本モデルは、5.5B のトークンで学習されました。 このモデルは、スマートフォン、NVIDIA Jetson などの組み込みで動かすことを想定し作成されました。 — ベースモデル: TinyLlama/TinyLlama-1.1B-intermediate-step-1431k-3T — 学習データセット: augmxnt/shisa-pretrain-en-ja-v1 — 学習トークン: 55 億 このモデルを使用するには、Hugging Face のtransformersライブラリをインストールする必要があります このモデルは、TinyLlama プロジェクトの成果に基づいて構築され、augmxnt/shisa-pretrain-en-ja-v1デ
Модальности:
Генерация текста
Задача: Генерация текста
Автор: 2121-8
Теги: llama, OpenAccess AI Collective, MPT, axolotl, PyTorch, Transformers, ja, text-generation-inference
Лайков: 3 | Загрузок: 42
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.