Мы представляем YuLan-Mini-Instruct, компактную, но мощную модель с 2,4 миллиардами параметров. YuLan-Mini-Instruct представляет собой адаптацию базовой модели YuLan-Mini после обучения. Благодаря эффективному обучению как на открытых, так и на синтетических данных модель достигает производительности, сравнимой с основными моделями (такими как Qwen-1.5b и LLaMA-3B), без ущерба для своих основных возможностей в математике и кодировании. YuLan-Mini-Instruct предварительно обучен на 1,08 триллионе токенов и дополнительно усовершенствован с помощью конвейера постобучения, который включает контролируемую точную настройку, точную настройку предпочтений и обучение с подкреплением для максимизации своих возможностей. Обширные оценки показывают, что YuLan-Mini-Instruct достигает высочайшего уровня производительности, демонстрируя конкурентоспособность с ведущими промышленными аналогами в различных областях, включая выполнение инструкций, математические задачи, кодирование и логические задачи. Модель доступна по адресу https://huggingface.co/yulan-team/YuLan-Mini-Instruct. YuLan-Mini-Instruct демонстрирует конкурентоспособную производительность по сравнению с моделями аналогичного размера, особенно при решении задач, связанных с математикой и кодом. Мы сравниваем YuLan-Mini-Instruct с другими передовыми моделями…
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: yulan-team
Теги: llama, code, math, conversational, en, zh, model-index, text-generation-inference
Лайков: 8 | Загрузок: 358
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
