hkust-nlp/drkernel-14b — это модель на основе Qwen3-14B, предназначенная для генерации и оптимизации ядра графического процессора (особенно Triton) в среде DR.Kernel. Он обучен итеративной оптимизации с обратной связью по выполнению от KernelGYM, а не только для однократной генерации кода. — Тип модели: Qwen3ForCausalLM — Число параметров: 14 768 307 200 (из model.safetensors.index.json) — Вес dtype: BF16 — Семейство базовых моделей: Qwen3-14B — Основные возможности: генерировать и итеративно уточнять оптимизированные реализации ядра ModelNew из справочных задач PyTorch — numhiddenlayers: 40 — скрытый размер: 5120 — промежуточный размер: 17408 — numattentionheads: 40 — numkeyvalueheads: 8 — maxpositionembeddings: 32768 — vocabsize: 151936 — Transformsversion`: 4.56.0 — totalparameters: 14 768 307 200 — общий размер: 29 536 614 400 байт — ожидаемая контрольная точка shards: model-00001-of-00007.safetensors … model-00007-of-00007.safetensors Модель 14B следует тому же двухэтапному конвейеру DR.Kernel: 1. SFT с холодным запуском — набор данных: hkust-nlp/drkernel-coldstart-8k — многоходовая прогрева траектории для генерации/уточнения ядра 2. Многоходовая RL — Набор данных поезда: hkust-nlp/drkernel-rl-data — Набор данных проверки:…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: hkust-nlp
Теги: qwen3, triton, kernel-generation, reinforcement-learning, code, conversational, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 418
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
