Это квантование MXFP4 Mattepiu/Qwen3-Coder-Next-REAP-48B-A3B. Используйте следующие предложенные параметры выборки: температура=1,0 topp=0,95 topk=40.
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: noctrex
Теги: gguf, endpoints_compatible, conversational
Лайков: 6 | Загрузок: 296
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Quantized using commit 68976a0 of the dev branch of exllamav2. Поддержка этой архитектуры, по-видимому, не входит в основную...
Семейство моделей открытого фундамента Falcon3 представляет собой набор предварительно обученных и инструктирующих LLM с параметрами от 1B до...
Исходная модель: https://huggingface.co/Orenguteng/Llama-3-8B-LexiFun-Uncensored-V1 Все кванты сделаны с использованием опции imatrix с набором данных, предоставленным Kalomaze здесь. Отличная статья...
Я вдруг понял, что Qwen3.5-Queen-27B особенно подходит для ролевой игры Queen. Зачем быть программистом, если можно быть королевой?...
