Qwen3.8-27B-PrismaScout-AQUA-20GB
Текстовая квантизация Qwen/Qwen3.8-27B со смешанной точностью, созданная для соответствия строгому ограничению в 20 000 000 000 байт всего...
Текстовая квантизация Qwen/Qwen3.8-27B со смешанной точностью, созданная для соответствия строгому ограничению в 20 000 000 000 байт всего...
DeepSeek-V4-Flash-0731 compressed from 155.42 GiB to 91.93 GiB (1.69×) so it fits and serves on ONE NVIDIA DGX...
A 295B-A21B MoE served on one 128 GB DGX Spark at 2.9 bits per parameter, through stock vLLM...
This is a PrismaQuant 4.75-bit mixed-native quantization of mistralai/Mistral-Medium-3.5-128B, exported for vLLM using the compressed-tensors format. This artifact...
A 13 GB download: 12,982,426,694 bytes = 12.98 GB = 12.09 GiB. Weights and codebooks are 12,958,885,485 B...
Квантование смешанной точности с совместной экспертной обрезкой. Подходит для MoE с параметром 228 B в 90 ГБ на...