Метка: ling - Каталог нейросетей

Метка: ling

Генерация текста

Hikari07jp/Ling-3.1-flash-NVFP4-Ablitrated-MTP-RTX-PRO-6000-TP4

inclusionAI/Ling-3.1-flash の公式FP8を出発点に、SGLang専用のNVFP4保存版を作り、そこへweights-only abliteration (T24) を焼き込み、さらにNEXTN 3-stepのMTP draftを同梱した保存版です。 通常のHugging Face量子化モデルではありません。vLLM/Transformers/GGUFでそのまま動く形式でもありません。 固定SGLang image・TP4/EP4・同梱patch・記載のGPU世代を維持した場合のみ再現できます。 draft/ は本体の model.wordembeddings / lmhead を共有する前提で、model.layers.72. だけを持ちます。量子化configは取り除いてあります(unquant...

Генерация текста

AtomicChat/Ling-3.0-flash-Fin-GGUF

Построено из исходных весов InclusionAI с нашей собственной матрицей важности. Калибровочные корпуса за нашими сборками являются общедоступными. Ling...

Генерация текста

prometheusAIR/Ling-3.0-flash-GGUF

Кванты включения AI/Ling-3.0-flash, 127,5В-общая/5,1В-активная гибридная МО (bailinghybrid/BailingMoeV3`). Каждый файл здесь содержит только типы тензоров, безопасные для sm120 —...