Метка: sglang - Каталог нейросетей

Метка: sglang

Генерация текста

Hikari07jp/Ling-3.1-flash-NVFP4-Ablitrated-MTP-RTX-PRO-6000-TP4

inclusionAI/Ling-3.1-flash の公式FP8を出発点に、SGLang専用のNVFP4保存版を作り、そこへweights-only abliteration (T24) を焼き込み、さらにNEXTN 3-stepのMTP draftを同梱した保存版です。 通常のHugging Face量子化モデルではありません。vLLM/Transformers/GGUFでそのまま動く形式でもありません。 固定SGLang image・TP4/EP4・同梱patch・記載のGPU世代を維持した場合のみ再現できます。 draft/ は本体の model.wordembeddings / lmhead を共有する前提で、model.layers.72. だけを持ちます。量子化configは取り除いてあります(unquant...

Генерация текста

Blackfrost-Research/GLM-5.3-DERISKED-NVFP4-V2

> Бесплатная публичная загрузка: Blackfrost-Research/GLM-5.3-DERISKED-NVFP4-V2. Для загрузки весов не требуется оплата, вход в систему или запрос на доступ....

Генерация текста

Soomin33/Qwen3.8-Flash-Next-FP6

Квантование сообщества графических процессоров Qwen3.8-Flash-Next с таргетингом 2×64 ГБ с таблицей вложений n-грамм/PLE с параметром 51B, обслуживаемой из...