Для обучения используются те же данные, что и в версии 34b, а в базе используется deepseek-67b. Метод обучения: 1. предтренировка с lora r = 512 2. sft с lora r = 128
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: TriadParty
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 23 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
SambaLingo-Bulgarian-Base — это предварительно обученная двуязычная болгарско-английская модель, которая адаптирует Llama-2-7b к болгарскому языку путем обучения на 38...
Qwen2.5-Coder — это новейшая серия больших языковых моделей Qwen, специфичных для кода (ранее известных как CodeQwen). На данный...
Эта модель входит в серию моделей LaMini-LM, описанных в статье «LaMini-LM: Разнообразное стадо дистиллированных моделей из крупномасштабных инструкций»....
NuminaMath — это серия языковых моделей, которые обучаются с помощью двух этапов контролируемой тонкой настройки для решения математических...
