Это неквантованная версия fp16 для обучения и слияния. Если вам нужна квантовая версия для вывода, обратитесь к репозиторию ниже: Эта модель представляет собой слияние TIES Mixtral-8x7B-Instruct-v0.1 и Bagel-dpo-8x7b-v0.2, где MixtralOrochi8x7B является базовой моделью. Я был очень впечатлен производительностью MixtralOrochi8x7B и многогранными вариантами использования, поскольку он уже представляет собой объединение многих полезных моделей Mixtral, таких как Mixtral instruct, Noromaid-v0.1-mixtral, openbuddy-mixtral и, возможно, других моделей, названия которых не были названы. Моей целью было расширить возможности модели и сделать ее еще более полезной, возможно, даже конкурентоспособной с моделями с закрытым исходным кодом, такими как Gpt-4. Но для этого необходимо дополнительное тестирование. Я надеюсь, что сообщество поможет мне определить, заслуживает ли оно своего названия. 😊 Это вторая итерация этой модели, в которой при слиянии используются лучшие модели для повышения производительности (надеюсь). — https://huggingface.co/mistralai/Mixtral-8x7B-Instruct-v0.1
Модальности:
Генерация текста
Задача: Генерация текста
Автор: rombodawg
Теги: mixtral, merge, moe, model-index, text-generation-inference, endpoints_compatible
Лайков: 13 | Загрузок: 130
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
