DeepSeek-V4-Flash-ConfigI-GGUF
MoE с 284 байтами параметров (активный 21 байт) в 95 ГиБ — подходит и работает на блоках с...
MoE с 284 байтами параметров (активный 21 байт) в 95 ГиБ — подходит и работает на блоках с...
Плотная модель с 27B параметрами и квантованием смешанной точности Config-I. Стандартный формат MLX — работает со стандартными mlxlm...
35B-параметр MoE сжат до 15 ГБ с помощью квантования смешанной точности Config-I. Стандартный формат MLX — работает со...
93,5% MMLU при 87 ГБ. Декодирование 61 ток/с. ЗГЗ 4.604. 228B-параметр MoE сжат на 62% с помощью квантования...