lianghsun/Llama-3.2-Taiwan-1B

Лама-3.2-Тайвань-1B 是以 мета-лама/Ллама-3.2-1B為基底，針對繁體中文與中華民國台灣語境完成持續預訓練（продолжил предварительную подготовку, CPT）的小型基底模型，作為 Лама-3.2-Тайвань-1B-Instruct 等下游模型的繁中底座。 > ⚠️ 規格重點： > 1B 參數小型語言模型（SLM）, 純文本單模態, 僅做 CPT, 未做指令微調, 需自行 SFT後才有對話能力。 Мета 釋出的 Лама-3.2 1B是端側部署的良好候選,但其原生繁中能力有限、對台灣本地語境覆蓋不足。本模型透過大規模繁中持續預訓練（涵蓋網頁、教育、生活、政府公開文本等多類別語料），把繁中底層能力與台灣語境注入模型參數,作為下游SFT／DPO 的起點。 核心特點 (Основные характеристики) 1. Доступный графический процессор, процессор Apple: 1B, графический процессор Apple. Кремний, алюминиевый сплав, 2.繁中底座:訓練語料以繁體中文與台灣本地語境為主,補強原版 Llama-3.2-1B在繁中流暢度與在地語境理解上的不足。 3. 下游可微調:作為 instruct、領域應用, persona微調的起點。 — Разработан: Лян Сюнь Хуан — Финансируется: APMIC — Базовая модель: мета-лама/Llama-3.2-1B — Тип модели: LlamaForCausalLM (Transformers) — Язык(и) (NLP): Традиционный китайский, английский — Лицензия: llama3.2

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: lianghsun
Теги: llama, Taiwan, ROC, zhtw, SLM, Llama-3.2, continued-pretraining, conversational
Лайков: 6  |  Загрузок: 0

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.