Qwen2.5 — новейшая серия моделей большого языка Qwen. Для Qwen2.5 мы выпускаем ряд базовых языковых моделей и языковых моделей, настраиваемых с помощью инструкций, с диапазоном от 0,5 до 72 миллиардов параметров. Qwen2.5 вносит следующие улучшения в Qwen2: — Значительно больше знаний и значительно улучшены возможности в области кодирования и математики благодаря нашим специализированным экспертным моделям в этих областях. — Значительные улучшения в выполнении инструкций, создании длинных текстов (более 8 000 токенов), понимании структурированных данных (например, таблиц) и генерации структурированных выходных данных, особенно JSON. Более устойчив к разнообразию системных подсказок, улучшает реализацию ролевых игр и настройку условий для чат-ботов. — Длинный контекст. Поддержка до 128 000 токенов и возможность генерировать до 8 000 токенов. — Многоязычная поддержка более чем 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие. Этот репозиторий содержит базовую модель 3B Qwen2.5, которая имеет следующие функции: — Тип: каузальные языковые модели — Этап обучения: предварительное обучение — Архитектура: преобразователи с RoPE, SwiGLU, RMSNorm, смещением внимания QKV и…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Qwen
Теги: qwen2, conversational, en
Лайков: 172 | Загрузок: 320,126
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
