Это квантованная версия Qwen/Qwen2.5-Coder-7B, созданная с использованием llama.cpp. Qwen2.5-Coder — это последняя серия кодоспецифичных больших языковых моделей Qwen (ранее известных как CodeQwen). Для Qwen2.5-Coder мы выпускаем три базовые языковые модели и языковые модели, настроенные на инструкции: 1,5, 7 и 32 (скоро) миллиарда параметров. Qwen2.5-Coder вносит следующие улучшения в CodeQwen1.5: — Значительные улучшения в генерации кода, его обосновании и исправлении. Основываясь на мощном Qwen2.5, мы увеличиваем количество обучающих токенов до 5,5 триллионов, включая исходный код, текстовый код, синтетические данные и т. д. — более полную основу для реальных приложений, таких как агенты кода. Не только расширяя возможности кодирования, но и сохраняя свои сильные стороны в математике и общих компетенциях. — Поддержка длинного контекста до 128 тыс. токенов. Этот репозиторий содержит модель 7B Qwen2.5-Coder, которая имеет следующие особенности: — Тип: причинные языковые модели — Этап обучения: предварительное обучение и постобучение — Архитектура: преобразователи с RoPE, SwiGLU, RMSNorm и смещением QKV внимания — Количество параметров: 7.61B — Количество параметров (без внедрения): 6.53B — Количество слоев: 28 -…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, code, qwen, qwen-coder, codeqwen, en, endpoints_compatible, conversational
Лайков: 7 | Загрузок: 1,170
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
