Тайвань LLM — это продвинутая языковая модель, адаптированная для традиционного китайского языка и ориентированная на языковой и культурный контекст Тайваня. Разработанная на основе большой базовой модели, она обогащена разнообразными тайваньскими текстовыми источниками и усовершенствована посредством контролируемой точной настройки. Эта модель превосходно справляется с пониманием и созданием языка и тесно связана с культурными нюансами Тайваня. Он демонстрирует улучшенную производительность по различным тестам, таким как TC-Eval, демонстрируя его контекстуальное понимание и культурную значимость. Подробную информацию о развитии и особенностях Тайваньской LLM можно найти в нашем техническом отчете. – Тип модели: модель, подобная GPT, с 13 параметрами, точно настроенная на основе общедоступных синтетических наборов данных. — Язык(и) (NLP): преимущественно традиционный китайский (zh-tw) — Точная настройка на основе модели: yentinglin/Taiwan-LLaMa-v1.0-base — Репозиторий: https://github.com/MiuLab/Taiwan-LLaMa — Демонстрация: https://twllm.com/ Вот как можно запустить модель с помощью функции конвейера() из 🤗 Трансформеров: во время использовались следующие гиперпараметры. обучение: — скорость обучения: 5e-05 — распределенный тип: несколько графических процессоров — оптимизатор: Адам с бета-версиями = (0,9,0,999) и эпсилон = 1e-08 — lrschedulertype: косинус -…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: yentinglin
Теги: llama, conversational, zh, text-generation-inference, endpoints_compatible
Лайков: 78 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
