Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. ロールプレイ用モデルであるAratako/Ninja-v1-RPをベースに、小説生成モデルであるEli zezen/Antler-7Bの派生モデルをマージすることで表現力を強化したロールプレイ用モデルです。 Шаблон чата Vicunaを利用してください。また、設定などを渡すシステムプロンプトは最初のПОЛЬЗОВАТЕЛЬ:より前に入力されることを想定しています。また、マルチターンの対話を行う場合各ターンのアシスタントの応答の末尾にeostoken(`)を必ずつけてください。なお、マージによりロールプレイへの理解力がやや薄れているからか時折ユーザー側のセリフを続けたり小説のようなものを書きだすことがあります。これについてはнесколько выстрелов подсказкаや再生成などで対応してください Elizezen/Antler-7Bに対し、まずmistralai/Mistral-7B-Instruct-v0.2のЧат Vectorを加算した後、以下4つの英語RP用モデルのTask Vectorを0.8倍して加算し、4種類のTask Vector加算モデルを作成しました。 — разумно/WestLake-7B-v2 — SanjiWatsuki/Kunoichi-DPO-v2-7B — SanjiWatsuki/Silicon-Maid-7B — SanjiWatsuki/Loyal-Macaroni-Maid-7B次に、このTask Vector加算によってできた4モデルとMistral-7B-Instruct-v0.2の差分加算モデルを、Model Stockという手法を用い以下のようなconfigを使ってmerg ekitでマージし、Antler-7Bベースのモデルを作成しました。最後に、Aratako/Ninja-v1-RPに上記操作で出来上がったモデルをDARE TIESによってマージし、本モデルを作成しました。
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Aratako
Теги: mistral, roleplay, merge, mergekit, ja, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 48
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.