CodeQwen1.5 — это версия Qwen1.5 для конкретного кода. Это языковая модель только для декодера на основе преобразователя, предварительно обученная на большом объеме данных кодов. Широкие возможности генерации кода и конкурентоспособная производительность в ряде тестов; Поддержка понимания и генерации длинного контекста с длиной контекста в 64 КБ токенов; Поддержка 92 языков кодирования. Отличная производительность при преобразовании текста в SQL, исправление ошибок и т. д. Для получения более подробной информации обратитесь к нашему сообщению в блоге и репозиторию GitHub. CodeQwen1.5 основан на Qwen1.5, серии языковых моделей, включающей языковые модели декодеров разных размеров. Он обучен на 3 триллионах токенов данных кодов и включает групповое внимание к запросам (GQA) для эффективного вывода. Код Qwen1.5 был в последних трансформерах Hugging Face, и мы советуем вам установить трансформеры>=4.37.0, иначе вы можете столкнуться со следующей ошибкой: Кроме того, вам необходимо установить AutoAWQ для поддержки AWQ. Здесь представлен фрагмент кода с применением шаблона applychat, который покажет вам, как загрузить токенизатор и модель и как генерировать содержимое. Если вы столкнулись с переключением кода или другими неприятными случаями, мы советуем вам использовать предоставленные нами гиперпараметры в…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Qwen
Теги: qwen2, chat, conversational, en, text-generation-inference, endpoints_compatible, 4-bit, awq
Лайков: 14 | Загрузок: 92
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
