Aratakoさんの LightChatAssistant-2x7B-optimized-experimental でChatVectorに適用された加算割合を参考に、Sdff-Ltba/LightChatAssistant-2x7Bを製作者の好みに合うように手作業で割合を調整したモデルです。本モデルの製作にあたりАратакоさんに加算割合データの公開をお願いしたところ、快く対応してくださいました。その時のディスカッションはこちらです。心から感謝いたします。ありがとうございました！ — ContextSize 32768 まで対応 — iQ3XXS использует видеопамять 12 ГБ, видеопамять 12 ГБ, видеопамять 1.加算するInstruct割合を可能な限り落とさず、それでいて日本語をより自然にする 1.長文を出力させても日本語をより滑らかにできるように調整 1. LightChat Assistant.製作者の環境では上記3点が実現できたため、本モデルには満足しています。ただしプロンプト等によっては元モデルより劣るものもあるかもしれないため、バージョンアップとしてではなく別型としてリリースすることにしました。 — GitHub — Aratako_Task-Vector-Merge-Optimzier Аратакоさん作の、ChatVectorに適用する加算割合を最適化するスクリプトです。本モデル製作のきっかけとなりました。
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Sdff-Ltba
Теги: mixtral, mistral, merge, moe, not-for-all-audiences, nsfw, ja, text-generation-inference
Лайков: 8 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
