Kimi-K3.1-Pro-DSpark
LithosAI · draft model for lossless speculative decoding with Kimi-K3.1-Pro A DSpark draft head. In each decode step...
LithosAI · draft model for lossless speculative decoding with Kimi-K3.1-Pro A DSpark draft head. In each decode step...
inclusionAI/Ling-3.1-flash の公式FP8を出発点に、SGLang専用のNVFP4保存版を作り、そこへweights-only abliteration (T24) を焼き込み、さらにNEXTN 3-stepのMTP draftを同梱した保存版です。 通常のHugging Face量子化モデルではありません。vLLM/Transformers/GGUFでそのまま動く形式でもありません。 固定SGLang image・TP4/EP4・同梱patch・記載のGPU世代を維持した場合のみ再現できます。 draft/ は本体の model.wordembeddings / lmhead を共有する前提で、model.layers.72. だけを持ちます。量子化configは取り除いてあります(unquant...
A 27B model that texts like a person and still does the work, in FP8 for 32 to...
> Бесплатная публичная загрузка: Blackfrost-Research/GLM-5.3-DERISKED-NVFP4-V2. Для загрузки весов не требуется оплата, вход в систему или запрос на доступ....
A value-preserving NVFP4 expert-weight conversion of Xiaomi MiMo-V2.6-Flash-RL. The measured W4A4 profile runs on two RTX PRO 6000...
The bundled DFlash2 draft is now a pre-quantized static FP8 compressed-tensors checkpoint, not a BF16 checkpoint carrying an...
Квантование сообщества графических процессоров Qwen3.8-Flash-Next с таргетингом 2×64 ГБ с таблицей вложений n-грамм/PLE с параметром 51B, обслуживаемой из...
Запустите полную 27-битную модель Escha W2 с контекстом до 120 000 на одном 16-гигабайтном графическом процессоре NVIDIA, используя...
An Apple Silicon (MLX) checkpoint of Muse Glimmer, produced as a code-preserving repack of the vendor’s searched dynamic...
HybridDiffusion-2B is a 2.39B-parameter text-generation checkpoint produced by applying HybridDiffusion’s autoregressive-to-diffusion conversion recipe to Qwen3.5-2B. A single set...