mradermacher GGUF quants mradermacher GGUF imat quants Bartowski GGUF quants waldie exl2 4bpw Qwentile 2.5 32B Instruct представляет собой нормализованную интерполяцию Фурье с шумоподавлением следующих моделей: Другими словами, все эти модели деформируются и интерполируются в сигнальном пространстве, а затем снова наклеиваются поверх базовой модели. Я начал свой эксперимент, потому что QwQ — действительно отличная модель, но она вызывала у меня проблемы с выводом XML — который я использую для своих жетонов мыслей. Итак, я подумал… давайте просто объединим это! Первая модель работала довольно хорошо, но у меня возникло ощущение, что баланс можно подправить. Почему бы для развлечения не добавить и другие модели и посмотреть, не закончится ли в процессе дисковое пространство? Он немного более четкий, чем Awqward, но обеспечивает стабильный результат. Поскольку он основан на базе Qwen2.5, а не указывает, что он не провалил математический тест, он оценивается с моделями, в два раза превышающими его размер: эта модель очень совместима с управлением и имеет врожденную цепочку мыслей, поэтому получить красивые, отформатированные результаты цепочки мыслей довольно легко. Ниже приведен очень простой пример того, как добиться поворота мысли. Я заметил, что иногда сбрасываются конечные теги, так что вам следует…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: maldv
Теги: qwen2, chat, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 34 | Загрузок: 33
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
