Gumini (구미니) — это двуязычная корейско-английская модель базового языка, созданная путем наследования первых 10 слоев Qwen 2.5 3B с использованием методологии Inheritune с последующим предварительным обучением на корейско-английском смешанном корпусе (~ 393 миллиона токенов). > Это БАЗОВАЯ модель, не настроенная по инструкциям. > Он создает текстовые продолжения, а не разговорные ответы. 1. Наследование слоев (Inheritune). Унаследованы первые 10 слоев преобразователя из 36. Уменьшен размер модели при сохранении ранних лингвистических способностей. 2. Предварительное обучение. Обучение на 393 млн токенов на корейско-английском наборе данных. 2.5 3B и переобучается с прогрессивным расширением уровней с использованием методологии Inheritune. — Базовая модель: без настройки инструкций или согласования безопасности. — Высокий риск повторения: используйте пенальти за повторение >= 1,2. — Может генерировать неверную или устаревшую информацию. — Не следует использовать в конфиденциальных или критических с точки зрения безопасности** контекстах. Эта модель предназначена только для НЕКОММЕРЧЕСКОГО / ИССЛЕДОВАТЕЛЬСКОГО использования. По вопросам коммерческого использования обращайтесь в Alibaba Cloud. Гумин Квон (권구민) —…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: GuminiResearch
Теги: qwen2, korean, bilingual, built-with-qwen, continued-pretraining, conversational, ko, en
Лайков: 7 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
