Модель генерации текста
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Entropicengine
Теги: llama, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 16
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Чат Предусмотрено несколько перестановок параметров GPTQ; см. Предоставленные файлы ниже для получения подробной информации о предоставляемых опциях, их...
Эта модель mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2 была преобразована в формат MLX из Qwen/Qwen3-Coder-30B-A3B-Instruct с использованием mlx-lm версии 0.26.3. Модальности:Генерация текста Области...
Сачин Мехта, Мохаммад Хоссейн Сехават, Цинцин Цао, Максвелл Хортон, Янци Цзинь, Ченфан Сун, Иман Мирзаде, Махьяр Наджиби, Дмитрий...
Это квантование MXFP4_MOE модели Kimi-Linear-48B-A3B-Instruct Основным стандартом является использование MXFP4 для тензоров MoE и Q8 для остальных. Поэтому...
