Это квантование MXFP4_MOE модели ERNIE-4.5-21B-A3B-PT. Модель, квантованная с помощью BF16 GGUF, взята из: https://huggingface.co/unsloth/ERNIE-4.5-21B-A3B-PT-GGUF. Исходная модель: https://huggingface.co/baidu/ERNIE-4.5-21B-A3B-PT.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: noctrex
Теги: gguf, endpoints_compatible, conversational
Лайков: 5 | Загрузок: 90
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.