Модель представляет собой настроенную по инструкции версию rinna/youri-7b. Он принимает формат ввода Alpaca. 32-слойная языковая модель на основе преобразователя со скрытым размером 4096 пикселей. Подробности архитектуры см. в статье llama2. Данные тонкой настройки представляют собой подмножество следующих наборов данных. Databricks Данные Dolly Японские Databricks Данные Dolly FLAN Инструкция Данные настройки и их японский перевод Izumi lab LLM Японский набор данных Следующие разделы используются alt aozora-txt CourseraParallel ParaNatCom Tab-delimitedBilingualSentencePairs tanaka-corpus wikinews wordnet yasashi-japanese Остальные разделы содержат часто используемые корпуса оценок, поэтому они пропускаются во избежание утечки данных. ~~~~python импортирует факел из трансформаторов import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.frompretrained(«rinna/youri-7b-instruction») model = AutoModelForCausalLM.frompretrained(«rinna/youri-7b-instruction») инструкция = «次の日本語を英語に翻訳してください。» input = «大規模言語モデル（だいきぼげんごモデル、英: большой язык модель、LLM）は、多数のパラメータ（数千万から数十億）を持つ人工ニューラルネットワークで構成されるコンピュータ言語モデルで、膨大なラベルなしテキストを使用して自己教師あり学習または半教師あり学習によって訓練が行われる。» подсказка = е»»»以下は、タスクを説明する指示と、文脈のある入力の組み合わせです。要求を適切に満たす応答を書きなさい。 «»» токены…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: rinna
Теги: llama, ja, en, text-generation-inference
Лайков: 15 | Загрузок: 1,419
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
