Мрамор-3B или IBM-гранит/гранит-3.1-3b-a800m-основание (IBM Granite 3.1 3B-A800M) МООС）為基底，針對繁體中文與中華民國台灣語境完成持續預訓練（CPT）之 МООС 基底模型,作為Marble-3B-Instruct 等下游模型的繁中底座。 > ⚠️ 規格重點： > 本模型為 3B Сочетание экспертов (МЭ), служащих, служащих, служащих, служащих CPT, служащих, служащих, SFT, IBM Granite 3.1 系列引入 MoE 架構（3B 總參數、800M Marble-3B 把繁中與台灣語境語料注入Гранит 3.1 3B-A800M，使下游任務能在 MoE 架構下取得繁中底層能力，兼顧推論效率與多領域覆蓋.核心特點 (ключевые характеристики) 1. MoE 架構繁中底座:少量活化參數(800M)卻有 3B總參數的容量,部署效率較同等級稠密模型佳。 2. 多領域適配:МЭ結構天然適合多領域知識分流,配合繁中 CPT 3. 可下游微調: 作為 Instruct、領域應用之SFT／DPO 起點。 – Разработан: Лян Сюнь Хуан – Финансируется: APMIC – Базовая модель: IBM-granite/granite-3.1-3b-a800m-base – Тип модели: GraniteMoeForCausalLM (Transformers) – Язык(и) (NLP): Традиционный китайский, английский – Лицензия: MIT
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lianghsun
Теги: granitemoe, Taiwan, ROC, zhtw, Marble, Granite, MoE, SLM
Лайков: 5 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
