Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Он вырос примерно на 300М параметров и я не знаю почему. Хотя мне хотелось бы знать. Это работает так, как и ожидалось — потрясающе — я просто не вижу причин, по которым модели Qwen2 приобретают параметры при слиянии. Эта модель была объединена с использованием метода слияния Model Stock с использованием trollek/Qwen2-1.5B-Instruct-Abliterated в качестве основы. В объединение были включены следующие модели: Cognitivecomputations/dolphin-2.9.3-qwen2-1.5b M4-ai/Hercules-5.0-Qwen2-1.5B * Replete-AI/Replete-Coder-Qwen2-1.5b Для создания этой модели использовалась следующая конфигурация YAML:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: trollek
Теги: qwen2, mergekit, merge, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
