Эта модель представляет собой слияние TIES notux-8x7b-v1 и UNAversal-8x7B-v1beta, при этом MixtralOrochi8x7B является базовой моделью. Я был очень впечатлен производительностью MixtralOrochi8x7B и многогранными вариантами использования, поскольку он уже представляет собой объединение многих полезных моделей Mixtral, таких как Mixtral instruct, Noromaid-v0.1-mixtral, openbuddy-mixtral и, возможно, других моделей, названия которых не были названы. Моей целью было расширить возможности модели и сделать ее еще более полезной, возможно, даже конкурентоспособной с моделями с закрытым исходным кодом, такими как Gpt-4. Но для этого необходимо дополнительное тестирование. Я надеюсь, что сообщество поможет мне определить, заслуживает ли оно своего названия. 😊
Модальности:
Генерация текста
Задача: Генерация текста
Автор: rombodawg
Теги: mixtral, merge, moe, text-generation-inference, endpoints_compatible
Лайков: 15 | Загрузок: 43
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
