「LOCAL AI HACKATHON」における、チームDataPilot,5つめの成果品です。Line社が開発した「japanese-large-lm-1.7b-instruction-sft」をウィキブックの内容をもとに中学、高校範囲に加え、インストラクションデータセットを用いファインチューニングを行いました。 ユニグラム言語モデルとバイトフォールバックを備えたセンテンスピーストークナイザー(sentencepiece tokenizer)を使用します。日本語トークナイザーによる事前トークン化は適用されません。したがって、ユーザーは生の文をトークナイザーに直接フィードできます。 当LLMはオープンソースソフトウェアです。詳しくは下記のリンクをご覧ください。 https://www.apache.org/licenses/LICENSE-2.0 機材を貸していただいた Witnessさん 、このような機会を与えてくださった さるどらさん 、その他助言を与えてくださった「ローカルLLMに向き合う会」のみなさま、そしてすべての関係者の皆様に感謝を申し上げます。
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: DataPilot
Теги: gpt2, ja, text-generation-inference
Лайков: 3 | Загрузок: 20
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
