Beyonder-4x7B-v3 — усовершенствованная версия популярного Beyonder-4x7B-v2. Это смесь экспертов (MoE), созданная с использованием следующих моделей с использованием LazyMergekit: mlabonne/AlphaMonarch-7B beowolx/CodeNinja-1.0-OpenChat-7B SanjiWatsuki/Kunoichi-DPO-v2-7B mlabonne/NeuralDaredevil-7B Особая благодарность beowolx за создание лучшей модели кода на основе Mistral и за СанджиВацуки за создание одной из лучших ролевых моделей. Попробуйте демо: https://huggingface.co/spaces/mlabonne/Beyonder-4x7B-v3. Эта модель использует контекстное окно размером 8 КБ. Я рекомендую использовать его с шаблоном чата Mistral Instruct (отлично работает с LM Studio). Если вы используете SillyTavern, возможно, вам захочется настроить параметры вывода. Вот что LM Studio использует в качестве эталона: temp 0,8, topk 40, topp 0,95, minp 0,05, restartpenalty 1.1. Благодаря четырем экспертам это универсальная модель, способная решать большинство задач. Поскольку для получения ответа всегда используются два эксперта, каждая задача выигрывает от других возможностей, таких как чат с RP или математика с кодом. GGUF: https://huggingface.co/mlabonne/Beyonder-4x7B-v3-GGUF Ещё GGUF: https://huggingface.co/bartowski/Beyonder-4x7B-v3-GGUF ExLlamaV2**:…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mlabonne
Теги: mixtral, moe, frankenmoe, merge, mergekit, lazymergekit, conversational, text-generation-inference
Лайков: 60 | Загрузок: 7,987
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
