ジャンルやクオリティ、キーワードや年齢区分を指定すると、それに従った小説を生成するようにinstruction тюнингしています。 Мистральのчат шаблонを利用してください。また、学習に利用したデータのフォーマットの関係上、以下のような形式が望ましいと思われます。上記の例では以下のような出力設定を行っています。 — Температура: 0,7 — Верхний предел: 0,9 — Штраф за повторение: 1,1 — Сумма для генерала: 1024本モデルは学習時の指示にジャンルやキーワード、クオリティ、年齢区分などを追加して学習しているため、それらの属性を指定することである程度出力の制御が可能です。なろう小説APIおよびなろうR18小説APIにおけるgenreとnocgenreのジャンルで学習しています。具体的には以下のものを学習時に使っています。この形式で指定するのが望ましいかと思われます。 -全年齢・R15:未選択〔未選択〕、異世界〔恋愛〕、現実世界〔恋愛〕ハイファンタジー〔ファンタジー〕、ローファンタジー〔ファンタジー〕、純文学〔文芸〕、ヒューマンドラマ〔文芸〕、歴史〔文芸〕、推理〔文芸〕、ホラー〔文芸〕、アクション〔文芸〕、コメディー〔文芸〕、VRゲーム〔SF〕 、宇宙〔SF〕、空想科学〔SF〕、パニック〔SF〕、童話〔その他〕、詩〔その他〕、エッセイ〔その他〕、リプレイ〔その他〕、その他〔その他〕、ノンジャンル〔ノンジャンル〕 — R18:男性向け、女性向け、BL、大人向け※こちらはAPIページ上での表記からやや変更して学習しています。本モデルの学習に使用したデータセットの大本であるRyokoAI/Syosetu7 11Kのq-scoreを利用して学習時のレコードにクオリティタグをつけています。使用したデータセットは既にq-scoreが0.8以上の高品質のものをフィルターしてありますが、さらにそれを25 %ずつに分け、下から0、1、2、3とラベリングしています。3を指定するとより高品質な出力になる事が期待されます。全年齢の作品には0を、R15作品には1を、R18作品には2をラベルとしてつけ学習しています。これを生成時に指定することである程度表現の制御が可能となっていると思います。なお、年齢区分に2を指定する場合、ジャンルもそれ専用のものを指定する必要があるのでご注意ください。 Runpod, графический процессор, A6000x7,習を行いました。主な学習パラメータは以下の通りです。 — lorar: 128 — lisaalpha: 256 — loradropout: 0.05 — loratargetmodules: [«qproj», «kproj», «vproj», «oproj»,…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Aratako
Теги: mistral, not-for-all-audiences, nsfw, ja, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
