Это квантованная версия Qwen/Qwen2.5-7B, созданная с использованием llama.cpp. Qwen2.5 — это последняя серия моделей большого языка Qwen. Для Qwen2.5 мы выпускаем ряд базовых языковых моделей и языковых моделей, настраиваемых с помощью инструкций, с диапазоном от 0,5 до 72 миллиардов параметров. Qwen2.5 вносит следующие улучшения в Qwen2: — Значительно больше знаний и значительно улучшены возможности в области кодирования и математики благодаря нашим специализированным экспертным моделям в этих областях. — Значительные улучшения в следовании инструкциям, генерации длинных текстов (более 8 000 токенов), понимании структурированных данных (например, таблиц) и генерации структурированных выходных данных, особенно JSON. Более устойчив к разнообразию системных подсказок, улучшает реализацию ролевых игр и настройку условий для чат-ботов. — Длинный контекст. Поддержка до 128 000 токенов и возможность генерировать до 8 000 токенов. — Многоязычная поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие. Этот репозиторий содержит базовую модель 7B Qwen2.5, которая имеет следующие функции: — Тип: причинно-следственные языковые модели — Этап обучения: предварительное обучение -…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, en, endpoints_compatible, conversational
Лайков: 5 | Загрузок: 480
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
