Доработанная версия модели v2ray/Mixtral-8x22B-v0.1 для следующих наборов данных: — teknium/OpenHermes-2.5 — WizardLM/WizardLMevolinstructV2196k — microsoft/orca-math-word-problems-200k Эта модель имеет в общей сложности 141 параметр, из которых только 35 активных. Основное отличие этой версии заключается в том, что модель обучалась на большем количестве наборов данных и с длиной последовательности 8192. Это приводит к тому, что модель способна генерировать более длинные и последовательные ответы.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MaziyarPanahi
Теги: mixtral, moe, sharegpt, axolotl, conversational, fr, it, de
Лайков: 6 | Загрузок: 3
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
