Это квантование MXFP4_MOE модели GLM-4.5-Air-REAP-82B-A12B. Исходная модель: https://huggingface.co/cerebras/GLM-4.5-Air-REAP-82B-A12B.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: noctrex
Теги: gguf, endpoints_compatible, imatrix, conversational
Лайков: 11 | Загрузок: 82
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Версия 2 вышла! https://huggingface.co/TheDrummer/Moistral-11B-v2 Здесь я создал улучшенную версию: https://huggingface.co/TheDrummer/Moistral-11B-v1.1-MERGED-PCT-GGUF Модель eRP с богатым словарем влаги. Доработано с...
Чтобы обеспечить развертывание Ring-Linear-2.0 на устройствах с ограниченным объемом памяти, мы выпускаем квантованные веса с использованием формата GPTQ...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: bayartsogt Теги: jax, gpt2, text-generation-inference, endpoints_compatibleЛайков: 13 | Загрузок:...
статические кванты https://huggingface.co/0xSero/MiniMax-M2.1-REAP-40. Для удобного обзора и списка загрузки посетите нашу страницу модели для этой модели. Взвешенные/иматричные кванты...
