Это квантование MXFP4_MOE модели Qwen3-Coder-REAP-25B-A3B Добавлена версия иматрицы, основанная на иматрице от Бартовски. Я также создал свои собственные версии imatrix, которые отмечены как codetiny-exp и codemedium-exp. Это считается экспериментальным. Что я сделал, так это то, что я взял очень конкретный набор данных, предназначенный ТОЛЬКО для кодирования, а не для общих знаний. Это набор данных codetiny из eaddario/imatrix-калибровки и набор данных codemedium из eaddario/imatrix-калибровки. Я подумал, что это лучше подойдет, поскольку это модель, специфичная для кодирования. Но необходимо провести дополнительные испытания. Пожалуйста, оставьте отзыв. Оригинальная модель: https://huggingface.co/cerebras/Qwen3-Coder-REAP-25B-A3B
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: noctrex
Теги: gguf, endpoints_compatible, imatrix, conversational
Лайков: 15 | Загрузок: 226
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
