AIとビッグデータ分析の専門企業であるLinkbricksのデータサイエンティストであるジ・ユンソン(Saxo)ディレクターが Saxo/Linkbricks-Horizon-AI-Japanese-Base-70Bベースモデルを使用し、H100-80G 8個を通じて約 日本語 SFT->DPO->MERGEした日本語強化言語モデル。 5千万件の日本ニュース及びウィキコーパスを基準に、様々なタスク別の日本語・韓国語・中国語・英語クロス学習データと数学及び論理判断データを通じて、日中韓英言語クロス補強処理と複雑な論理問題にも対応できるように訓練したモデルです。 -トークナイザーは、単語拡張なしでベースモデルのまま使用します。 -カスタマーレビューやソーシャル投稿の高次元分析及びコーディングとライティング、数学、論理判断などが強化されたモデル。 -128k-Context Window -Function Call -128k-Context Window -Deepspeed Stage=3、rslora及びBAdam Layer Modeを使用 -토크나이저는 단어 확장 없이 베이스 모델 그대로 사용 -고객 리뷰나 소셜 포스팅 고차원 분석 및 코딩과 작문, 수학, 논리판단 등이 강화된 모델 -128k-Context Window -Function Call 및 Tool Calling 지원 -128k-Context Window -Deepspeed Stage=3, rslora 및 BAdam Layer Mode 사용 -«transformers_version»: «4.46.3» Finetuned by Mr. Yunsung Ji (Saxo), a data scientist at Linkbricks, a company specializing in AI and big data analytics Japanese…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Saxo
Теги: llama, ko, en, jp, cn, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 40
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
