Метка: llama3

DataPilot/ArrowCanaria-Llama-8B-SFT-v0.1

ArrowCanaria-Llama-8B-SFT-v0.1 は、AItuber（AI VTuber）向けに雑談性能を重視して設計された日本語特化の8Bパラメータ言語モデルです。多くの日本語LLMは翻訳調の硬い文体や、定型的なテンプレート応答に陥りがちです。本モデルは「AItuberとして視聴者と自然に雑談できるモデル」を目指し、雑談・ロールプレイ（RP）・推論・日本語の自然さを高い水準で獲得することを目標に開発されました。テンプレート的・機械的な応答ではなく、自然な日本語で人間らしく回答できることが最大の特徴です。本モデルは tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.5をベースに、高品質な日本語合成小説データセットによる継続事前学習(CPT)でドメイン知識を拡張した後、Чат Vectorマージで対話能力を復元し、さらに17.5万件超の合成データセットによる3フェーズのカリキュラムSFTを実施して構築されています。独自のデータ生成フレームワークСДГЛУМ**によって作成された高品質なデータと、EQ（感情知性）を優先する段階的な学習率設計により、従来のモデルよりも効率的かつ効果的なトレーニングを実現しています。 — AItuber / AI VTuber: 配信中のリスナーとの雑談・コメント対応 — チャットボット:自然な日本語での日常会話・悩み相談 — ロールプレイ:キャラクターを演じた対話・創作支援 — 汎用アシスタント:知識応答・推論・ツール呼び出しを含む幅広いタスク —...