Сообщество GGUF проекта модели DFlash 2 от Inco AI для GLM-5.3-Flash. Это не самостоятельная языковая модель. Он только разрабатывает токены для цели GLM-5.3-Flash при спекулятивном декодировании. Рецепт подачи искры: vcruz305/GLM-5.3-Flash-DFlash2-DGX-Spark-recipe — Исходный вес: incoai/GLM-5.3-Flash-DFlash2 — Целевая модель: zai-org/GLM-5.3-Flash — Метод: DFlash 2: Keep Drafting Parallel — Код: z-lab/dflash Лицензия следует оригиналу: CC BY-NC-ND 4.0. Для коммерческого использования свяжитесь с contact@inco.ai. Если вы используете этот GGUF, обратитесь к записи DFlash 2 от Inco AI и статье DFlash: метаданные GGUF из этого конверта: dflash.blocksize =8, convkernelsize =2, convgroupsize =16, selectorrank =256, selectortopk=16, targetlayers=[6,15,25,34,43]`. Vocab — это токенизатор GLM-5.3 (154880). Осадки Q80 /Q4KM были измерены на Spark и не** в этом репозитории. Требуется llama.cpp с DFlash 2 (сгруппированный динамический селектор-кандидат conv). INVALID LANGUAGE PAIR SPECIFIED. EXAMPLE: LANGPAIR=EN|IT USING 2 LETTER ISO OR RFC3066 LIKE ZH-CN. ALMOST ALL LANGUAGES SUPPORTED BUT SOME MAY HAVE NO CONTENT
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: vcruz305
Теги: gguf, dflash, dflash2, speculative-decoding, glm, endpoints_compatible, conversational
Лайков: 3 | Загрузок: 321
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.