lianghsun/Llama-3.2-Taiwan-3B - Каталог нейросетей
Генерация текста

lianghsun/Llama-3.2-Taiwan-3B

Добавлено:
lianghsun/Llama-3.2-Taiwan-3B

!image/png 圖像生成來自 OpenArt: 🦙 в стиле аниме, гордо стоящий на вершине тайваньской горы Юшань (Нефритовая гора) и смотрящий вперед. 採用 мета-лама/Llama-3.2-3B 為基礎模型(основание модель),使用大量中華民國台灣的繁體中文語料和多國語料進行模型持績預訓練(постоянная предварительная подготовка, CPT,旨在訓練出具有中華民國台灣知識及風格的小語言模型(модель малого языка, SLM). мета-лама/Лама-3.2-3B持續預訓練,整合了大量繁體中文語料和多國語系語料。繁體中文語料主要來自中華民國政府官方與其他可信賴的繁體中文來源,確保語料純正,避免模型生成時出現繁簡中文用語混雜的情況。同時,此舉也使模型能更準確地貼近中華民國台灣社會的語言使用習慣。 Графический процессор (相較於 7B+) 的設計目標之一是降低硬體資源需求, графический процессор硬體資源的環境中,也能讓使用者能更輕鬆地進行指令微調(инструкция по тонкой настройке)或部署推論端點(вывод конечная точка)。 👋如果你有更多公開資料想讓模型進行預訓練或者你對指令微調有什麼想法,也請歡迎來信討論。請不吝嗇給予❤️以支持此開源專案。以下提供本基礎模型的持續預訓練細節,協助各位減少探索所需的時間。 — Разработчик: Хуан Лян Сюнь — Тип модели: LlamaForCausalLM — Язык(и) (NLP): zh-tw — Лицензия: llama3.2 — Постоянное предварительное обучение на основе модели: мета-лама/Llama-3.2-3B本基礎模型透過大量繁體中文和多國語料進行持續預訓練,在不進行指令微調的前題下,你可以佈署此基礎模型觀察其對繁中語料的接龍程度,從中得知是否具備一定的繁中能力。本基礎模型透過大量繁體中文和多國語料進行持續預訓練,經檢查模型的輸出已經具有繁中用語能力,使用者可以以此基礎模型進行指令微調成具有指令回調的模型,以下В качестве примера можно привести следующие слова:我們用來訓練此基礎模型的繁體中文資料集涵蓋許多不同年代,基礎模型如果在未微調的前題下,進一步詢問有關具有時效性的問題可能會得到非預期的結果,比如…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: lianghsun
Теги: llama, ROC, Taiwan, zh-tw, llama-factory, conversational, zh, en
Лайков: 28  |  Загрузок: 42

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.