«Japanese-Starling-ChatV-7B» — это японская модель чата, созданная на основе «chatntq-ja-7b-v1.0», первоначально основанная на Mistral-7B-v0.1. К этой модели я применил вектор чата, полученный путем вычитания весов Мистраля-7Б-v0.1 из весов «Скворца-ЛМ-7Б-бета». このモデルはchatntq-ja-7b-v1.0をベースにした7Bパラメータの日本語チャットモデルです。高性能の英語モデルであるStarling-LM-7B-betaの重みからMistral-7B-v0.1の重みを差し引くことで得たчат векторを適用しています（ブログ記事）。 Модель (Q8_0 quant) c4ai-command-r-v01-GGUF JA-Starling-ChatV-7B-GGUF (Эта модель) ChatNTQ-JA-7b-v1.0-GGUF RakutenAI-7B-chat-gguf ELYZA-japanese-Llama-2-7b-instruct-gguf Параметры 35B 7B(Mistral) 7B(Mistral) 7B(Mistral) 7B(Llama-2) ELYZAtasks100средний балл 3,42 3,42 3,06 2,82 2,46 Очки по Тест «ELYZA-tasks-100» для японских моделей с настройкой инструкций, оцененных GPT-4-0125-preview. Обратите внимание, что это упрощенная оценка с использованием квантованных моделей Q8. このスコアはinstruction-tuningを行った日本語モデルのベンチマーク「ELYZA-tasks-100」を使い、 GPT-4-0125-previewにより評価させたものです。 Q8 量子化モデルを用いた簡易的な評価であることにご留意ください。 [INST] <>nあなたは役に立つアシスタントです。n<>nn{prompt} [/INST]
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: TFMC
Теги: gguf, Mistral, ja, endpoints_compatible
Лайков: 36 | Загрузок: 189
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
