Метка: efficient-inference - Каталог нейросетей

Метка: efficient-inference

Генерация текста

open-machine/SmolLM2-135M-FlashNorm

FlashNorm-prepared checkpoint of HuggingFaceTB/SmolLM2-135M. Mathematically equivalent to the source model. The per-channel RMSNorm weight tensors (inputlayernorm.weight, postattentionlayernorm.weight, model.norm.weight`)...

Генерация текста

huawei-csl/Qwen3-14B-4bit-SINQ

Этот репозиторий содержит официальную 4-битную квантованную версию модели Qwen3-14B с использованием метода SINQ (Sinkhorn-Normalized Quantization), как представлено в...

Генерация текста

huawei-csl/Qwen3-1.7B-4bit-ASINQ

Этот репозиторий содержит официальную 4-битную квантованную версию модели Qwen3-1.7B с использованием калиброванной версии метода SINQ (Sinkhorn-Normalized Quantization). SINQ...