Ванаби-Джемма4-31B は、Google Gemma 4 31B-IT をベースに、専用デスクトップアプリ Project Wannabeの執筆ワークフローに最適化したファインチューニングモデルです。本モデルの主な目的は、Project Wannabeが生成する専用のプロンプトフォーマットにモデルを適応させる ことです。Project Wannabeは、小説本文の生成（GEN）、続き生成（ПРОДОЛЖЕНИЕ）、アイデア生成（ИДЕЯ ）といったタスクごとに、タイトル・あらすじ・プロット・本文・レーティングなどの情報を独自の構造化フォーマットで組み立てて送信します。本モデルは、この入力形式を正しく理解し、各タスクの意図に沿った応答を返せるよう学習しています。加えて、日本語の思考過程（CoT）データを学習に組み込むことで、創作タスクにおける語彙選択や文体の自然さなど、日本語の創作表現の向上も目指しています。従来の ванаби シリーズ では Base モデルをゼロから小説タスクに特化させていたため、Project Wannabeでのみ使用可能でした。本モデルでは Instruct モデルをベースに採用するアプローチに転換し、ベースモデルが持つ汎用的な対話能力・推論能力を維持したまま、創作能力を付与しています。これにより、Project Wannabe はもちろん、OpenWebUI や SillyTavern など一般的なチャット UI でも利用可能 になりました。本モデルは、専用デスクトップアプリ Project Wannabe と KoboldCppを組み合わせて使用することを強く推奨します。特に Project Wannabe で使用する場合は、Gemma 4のチャットテンプレートに対応したバージョンを使用してください。 BF16 GGUFはファイルサイズが大きいため、llama.cpp の分割 GGUF形式で提供しています。利用時は先頭ファイル（例: -BF16-00001-of-00002.gguf）を指定してください。必要に応じて llama-gguf-split —mergeで単一ファイルに戻すこともできます。 実験的に imatrix量子化版もあわせて提供しています。imatrix量子化は、主に低量子化環境での理論上の性能向上が期待されますが、キャリブレーションデータに強く依存します。不適切なデータで量子化を行った場合、実性能が悪化したという報告もあります。今回のモデルにおいては最低限のテストしか行っていないため、imatrix量子化が適切に行えているかは未検証です。使用したい方はim Атриксフォルダ内のGGUFをダウンロードしてください。 иматрица…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: kawaimasa
Теги: gguf, japanese, novel-writing, gemma4, ja, endpoints_compatible, conversational
Лайков: 6 | Загрузок: 2,976
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
