Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Эта модель была объединена с использованием метода слияния DARE TIES с использованием в качестве основы mistralai/Mixtral-8x7B-v0.1. В объединение были включены следующие модели: mistralai/Mixtral-8x7B-v0.1 + Doctor-Shotgun/limarp-zloss-mixtral-8x7b-qlora mistralai/Mixtral-8x7B-v0.1 + LoneStriker/Air-Striker-Mixtral-8x7B-ZLoss-LoRA rombodawg/OpenGpt48x7Bv0.2 mistralai/Mixtral-8x7B-Instruct-v0.1 Sao10K/Typhon-Mixtral-v1 Для создания этой модели была использована следующая конфигурация YAML: Высококачественные кванты GGUF доступны здесь: https://huggingface.co/Artefact2/Mega-Destroyer-8x7B-GGUF (Спасибо, Artefact, за квантование с использованием иматрицы!) Привет всем, это Dampf. Возможно, вы знаете меня как создателя Мифического Разрушителя-13B. На этот раз я сотрудничал с Mr.DragonFox, также известным как FoxEngineAi, используя его мощное оборудование для объединения нескольких высококачественных моделей Mixtral 8x7B. Моей целью было превзойти Bagel-Mistery-Tour V2 от Ycros и создать лучшую на сегодняшний день модель Mixtral. Удалось ли мне? Пожалуйста, попробуйте и решите сами! Помимо очевидного Mixtral Instruct, чтобы сохранить его интеллект, я объединил превосходный OpenGpt4v0.2 от Rombo…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: FoxEngineAi
Теги: mixtral, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 87
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
