RESMP-DEV/GLM-4.6-NVFP4 - Каталог нейросетей
Генерация текста

RESMP-DEV/GLM-4.6-NVFP4

Добавлено:
RESMP-DEV/GLM-4.6-NVFP4

Квантованная версия GLM-4.6 с использованием LLM Compressor и формата NVFP4 (E2M1 + E4M3). Это должно стать началом новой серии, мы надеемся, оптимальных квантований NVFP4, поскольку возможности карт продолжают расти.

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: RESMP-DEV
Теги: glm4_moe, conversational, en, zh, endpoints_compatible, 8-bit, compressed-tensors
Лайков: 5  |  Загрузок: 16

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #8-bit #compressed-tensors #conversational #en #endpoints_compatible #glm4_moe #zh

Похожие модели (Генерация текста)

Генерация текста

meta-llama/Llama-Guard-3-1B-INT4

(Примечание. Это экспортированная модель INT4 executorch. Чтобы узнать больше о том, как запустить эту модель на периферийных устройствах,...

7
HF Подробнее
Генерация текста

Undi95/MLewd-ReMM-L2-Chat-20B-Inverted-b4.1-h6-exl2

Файлы EXL2 (-b 4.125 -h 6) https://huggingface.co/Undi95/MLewd-ReMM-L2-Chat-20B-Inverted Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: Undi95...

8
HF Подробнее
Генерация текста

keyfan/chinese-alpaca-7b-gptq

Chinese-Alpaca-7B-GPTQ основан на модели Chinese-LLaMA-Alpaca и был квантован с использованием GPTQ для более быстрого вывода с меньшими требованиями...

11
HF Подробнее
Генерация текста

macadeliccc/laser-dolphin-mixtral-2x7b-dpo

Благодарность Фернандо Фернандесу и Эрику Хартфорду за их проект laserRMT. Эта модель представляет собой реализацию MoE среднего размера,...

760
HF Подробнее