Метка: 2bit - Каталог нейросетей

Метка: 2bit

Генерация текста

mlx-community/Laguna-S-2.1-OptiQ-2bit

> Созданный с помощью mlx-optiq, набор инструментов MLX-native для квантования, точной настройки и обслуживания LLM локально на Apple...

Генерация текста

vcruz305/GLM-5.3-Flash-Uncensored-EXL3-K2

Суб-4-битное квантование EXL3 (QTIP решетки) orcarouter/GLM-5.3-Flash-Uncensored-FP8, аблитерированная тонкая настройка zai-org/GLM-5.3-Flash (glm5next / Glm5NextForConditionalGeneration`). Насколько нам известно, первый суб-4-битный...

Генерация текста

Minami-su/Yi_34B_Chat_2bit

Вы можете запустить его на графическом процессоре с памятью 11 ГБ, используя базовый метод квантования QuIP#, метод квантования...