Qwen3-0.6B-diffusion-mdlm-v0.1 — это языковая модель на основе диффузии, адаптированная из Qwen3-0.6B с использованием MDLM (маскированная диффузия), обученная с помощью структуры dLLM. Модель была представлена в статье dLLM: Simple Diffusion Language Modeling. — Метод: моделирование языка маскированной диффузии (MDLM) — Структура: dLLM — Базовая модель: Qwen3-0.6B — Наборы данных: tulu-3-sft-mixture, smoltalk, opc-sft-stage1 и opc-sft-stage2 > [!NOTE] > При использовании модели мы рекомендуем установить параметр Enablethinking=False`, чтобы обеспечить стабильное поведение и воспроизводимые результаты. Следуйте примерам демонстрационного сценария Github/a2d/mdlm/chat.py для визуализированной генерации: Model GSM8K MATH BBH MMLU‑Pro Hellaswag MMLU HumanEval MBPP Qwen3-0.6B-diffusion-bd3lm-v0.1 (оценено) 46.613.927.014.140.038.847.632.0 Qwen3-0.6B-diffusion-mdlm-v0.1 (оценено) 29.88.827.017.642.140.030.529.2 Чтобы автоматически оценить Qwen3-0.6B-diffusion-mdlm-v0.1 во всех тестах, запустите: Если вы используете Qwen3-0.6B-diffusion-mdlm-v0.1 или dLLM, укажите:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dllm-hub
Теги: a2d-qwen3, fill-mask, conversational, custom_code
Лайков: 11 | Загрузок: 3,003
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.