Qwen-2.5-Coder-14B-Qiskit — это модель, специализирующаяся на кодировании Qiskit и основанная на моделях большого языка Qwen для конкретного кода. В частности, эта модель основана на модели Qwen2.5-Coder с 14 миллиардами параметров. Модель была обучена с помощью Qiskit версии 2.0, что обеспечивает совместимость с ее API и синтаксисом. Основные функции по сравнению с предыдущими моделями, специализирующимися на коде Qiskit: — Значительные улучшения в генерации кода, его обосновании и исправлении кода. — Более комплексная основа для реальных приложений, таких как Code Agents. Не только расширяя возможности кодирования, но и сохраняя свои сильные стороны в математике и общих компетенциях. — Поддержка длинного контекста до 128 тыс. токенов. Модель Qwen-2.5-Coder-14B-Qiskit имеет следующие особенности: — Тип: причинно-языковые модели — Этап обучения: предварительное обучение и постобучение — Архитектура: преобразователи с смещением RoPE, SwiGLU, RMSNorm и Attention QKV — Количество параметров: 14,7B — Количество параметров (без внедрения): 13,1B — Количество слоев: 48 — Количество Внимание Heads (GQA): 40 для Q и 8 для KV. Длина контекста: полные 131 072 токена. Qwen-2.5-Coder-14B-Qiskit совместим с новейшими преобразователями HuggingFace, и мы…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: Qiskit
Теги: code, codeqwen, Qwen-Coder, Qwen2.5-Coder-14B-Qiskit, conversational, en, endpoints_compatible
Лайков: 6 | Загрузок: 154
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
