Базовая языковая модель 7B, предварительно обученная на текстах на хинди с размером контекста 2048. Веса инициализированы на основе модели bhasha-7b-256-hi. Использует расширенный словарь с переносом знаний в пространстве вложений. Эта модель всё еще проходит предварительное обучение. Обновленные веса и дополнительная информация будут доступны в ближайшее время.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: soketlabs
Теги: mpt, indic, hindi, हिंदी, indian, language, english, custom_code
Лайков: 2 | Загрузок: 28
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.