HyGPT-10b — это первая армянская модель большого языка, предварительно обученная на корпусе армянских текстовых данных. Эта модель предназначена для понимания и генерации армянского текста, что делает ее новаторской высококачественной языковой моделью, специально созданной для армянского языка. HyGPT-10b — это языковая модель, предназначенная только для декодера, основанная на архитектуре Google Gemma-2-9b, которая была дополнительно предварительно обучена на 10 миллиардах токенов армянского текста. Ключевой технической модификацией этой модели является разделение слоев внедрения и заголовка LM, что позволяет независимо обучать выходной слой, что может улучшить способность модели генерировать точный текст на армянском языке. — Разработано: Gen2B и NCCAIT — Тип модели: языковая модель только для декодера — Язык(и) (NLP): армянский, английский, русский — Технический отчет: ссылка — Лицензия: Лицензия на разрешенное использование HyGPT HyGPT-10b может использоваться непосредственно для: — Генерации армянского текста — Ответов на вопросы на армянском — Завершения текста для армянского контента — Понимания запросов на армянском языке — Модель может отражать предвзятость, присутствующую в данных обучения армянскому языку — Точность может варьироваться в зависимости от разных армянских диалектов и региональные различия. Модель может не иметь…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Gen2B
Теги: gemma2, armenian, llm, pretrained, conversational, hy, ru, en
Лайков: 7 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
