Базовая языковая модель 7B, предварительно обученная на тексте на хинди с размером контекста 256. Гири инициализированы с модели MPT-7B-8K. Использует расширенный словарный запас с передачей знаний в пространстве встраивания. Эта модель все еще проходит предварительное обучение. Обновленные веса вместе с более подробной информацией будут доступны в ближайшее время.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: soketlabs
Теги: mpt, indic, hindi, हिंदी, indian, language, english, custom_code
Лайков: 4 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
