Megatron-Corpus-14B-Exp основан на архитектуре модальности Qwen 2.5 14B, предназначенной для расширения возможностей рассуждений моделей с 14B-параметрами. Он был точно настроен на синтетическом наборе данных, основанном на математическом корпусе, что еще больше оптимизировало его рассуждения по цепочке мыслей (CoT) и способности к логическому решению проблем. Модель демонстрирует значительные улучшения в понимании контекста, структурированной обработке данных и понимании длинного контекста, что делает ее идеальной для сложных задач рассуждения, следования инструкциям и генерации текста. 1. Расширенное рассуждение 3. Большая адаптивность: Excel в ролевых играх, многооборотных диалогах и разнообразных системных подсказках. 4. Поддержка длинного контекста: обрабатывает до 128 000 токенов и генерирует до 8 000 токенов на выход. 5. Знание нескольких языков: поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий и другие. — Advanced Logical
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: prithivMLmods
Теги: qwen2, Corpus, Qwen, trl, conversational, en, model-index, text-generation-inference
Лайков: 4 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
