Moon-Beam-8B-A1B-GGUF-Preview
!Moon-pie Rescue. An ivory cat catches a pumpkin pie on a cratered moon while red and gold maple...
!Moon-pie Rescue. An ivory cat catches a pumpkin pie on a cratered moon while red and gold maple...
GGUF builds of inclusionAI’s Ling 3.1 flash 1019, with the multi-token prediction head inside. The calibration corpora behind...
inclusionAI/Ling-3.1-flash の公式FP8を出発点に、SGLang専用のNVFP4保存版を作り、そこへweights-only abliteration (T24) を焼き込み、さらにNEXTN 3-stepのMTP draftを同梱した保存版です。 通常のHugging Face量子化モデルではありません。vLLM/Transformers/GGUFでそのまま動く形式でもありません。 固定SGLang image・TP4/EP4・同梱patch・記載のGPU世代を維持した場合のみ再現できます。 draft/ は本体の model.wordembeddings / lmhead を共有する前提で、model.layers.72. だけを持ちます。量子化configは取り除いてあります(unquant...
A refusal-ablated («de-risked» / abliterated) build of inclusionAI/Ling-3.0-flash, quantized to Q4KM GGUF. The reflexive refusal behaviour has been...
Построено из исходных весов InclusionAI с нашей собственной матрицей важности. Калибровочные корпуса за нашими сборками являются общедоступными. Ling...
Кванты включения AI/Ling-3.0-flash, 127,5В-общая/5,1В-активная гибридная МО (bailinghybrid/BailingMoeV3`). Каждый файл здесь содержит только типы тензоров, безопасные для sm120 —...