Метка: speculative-decoding - Страница 3 - Каталог нейросетей

Метка: speculative-decoding

Генерация текста

mlx-community/Qwen3.8-27B-MTP-mxfp4

Этот репозиторий содержит веса-разработчики Multi-Token Prediction (MTP), разделенные из Qwen/Qwen3.8-27B и квантованные с помощью mlxvlm.convert для спекулятивного декодирования...

Генерация текста

felippeburk/Qwen3.8-27B-NVFP4-MTP-GGUF

NVFP4 квантовал Qwen3.8-27B со слоями драфта MTP (multi-token prediction), упакованными в виде одного GGUF для спекулятивного декодирования llama.cpp...

Генерация текста

johninthepool/Qwen3.8-27B-MTPLX-bf16

> Вес MTP сохранен. Это полноточная сборка MLX — никакого квантования. Головка мультитокен-предсказания сохраняется на уровне bf16 (mtppolicy:...