Тануки-8x8Bは、フルスクラッチで約1.7Tトークン事前学習を行った8x8Bパラメータ（総パラメータ約47B、アクティブパラメータ約13B）の大規模言語モデルです。 Tanuki-8x8B-dpo-v1.0は、SFTおよびDPOにより対話用に調整されています。より詳細な情報についてはブログ記事を参照してください。 GENIAC 松尾研LLM開発プロジェクトのもと、一般公募により集まった有志の参加者（企業所属、学生、研究者等）が開発を実施しました。 AWQ 4 бита, GPTQ 4 бита, GPTQ 8 битов, GGUF цвета GGUF版は性能低下が発生している可能性があり、非推奨こちらの記事にTanuki-8x8Bおよびその量子化モデルの各種推論方法についてまとめていますので、ご確認ください。以下に一部の推論方法を解説します。また、vLLMを使って推論をする場合は独自アーキテクチャへの対応が必要となります。こちらから改変済みvLLMを以下のようにビルドしてご利用ください。なお、本モデルはデフォルトのシステムプロンプトである「以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい。」以外を学習していないため、このシステムプロンプトの使用を推奨します。タスクの詳細はユーザープロンプトに記述してください。人手評価 Чат-бот Аренаを模したシステムを作成し、人手によるブラインドテストを実施しました。 （詳細はこちら） 全評価データ（約2000件）を公開しています。 !image/png Японский MT-Bench GPT-4による評価 (gpt-4-0613、平均スコア算出においてスコア-1は除外) 畠山 歓[リーダー]、Асаокатадаси、Ацуши Сайто、Чаттсо-GPT、Тихиро Арата、Тихиро ХИГУЧИ、Даичи Кохмото、Эсти、Хидэаки Хаяси、Хироаки Сиоя、Иссей Фудзимото、Цзе Цзэн、Дзинсэй Сираиси, К. Нисидзава, Кадзутака Нисимаэ, Кунихиро Ватанабэ, Масаки Окамура, Минами Сомея, Мさん, Ниши, Нисидзима, p1atdev, Руми Накагава, Рёта Мицухаси, Сусуму Ота, Такаги, Тошио Нисида, Иморинага, Юки Намиучи, Юки Кавано, 永原恒治, 加藤純, 河越 淳、岩田兼太朗、菊池満帆、熊田匡仁、江國翔太、佐野敏幸、山口 裕輝、西井康隆、川村正春、片上 舜、堀江吏将、林寛太…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: weblab-GENIAC
Теги: Tanuki, japanese, conversational, custom_code, ja, en
Лайков: 41 | Загрузок: 69
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
