Пытаясь сделать что-то другое, не стесняйтесь ставить лайки или дизлайки или оставлять отзывы, я ни на что не претендую. Я сделал один квант здесь (https://huggingface.co/Aryanne/QwentileSwap/blob/main/q4ks_QwentileSwap.gguf). Также спасибо mradermacher за другие кванты: gguf и ggufimatrixquants. Это объединение предварительно обученных языковых моделей, созданных с использованием моего собственного метода в mergekit. Эта модель была объединена с использованием метода слияния Task_swapping с использованием в качестве основы Win10/EVA-QwQ-32B-Preview. В объединение были включены следующие модели: ArliAI/Qwen2.5-32B-ArliAI-RPMax-v1.3 maldv/Qwentile2.5-32B-Instruct * Sao10K/32B-Qwen2.5-Kunou-v1 Для создания этой модели использовалась следующая конфигурация YAML:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Aryanne
Теги: gguf, qwen2, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 104
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
