xxx777xxxASD/PrimaMonarch-EroSumika-2×10.7B-128k

Экспериментальное MoE, идея состоит в том, чтобы иметь больше активных параметров, чем у модели 7xX, и сохранять ее размер ниже 20B. Каждая модель 128k представляет собой слияние с Epiculous/Fett-uccine-Long-Noodle-7B-120k-Context — localfultonextractor/Erosumika-7B — mistralai/Mistral-7B-Instruct-v0.2 — Epiculous/Fett-uccine-Long-Noodle-7B-120k-Context — mlabonne/AlphaMonarch-7B — Nitral-AI/Prima-LelantaclesV6-7b — NeuralNovel/Mistral-7B-Instruct-v0.2-Neural-Story — валин/MoreHuman

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: xxx777xxxASD
Теги: mixtral, merge, moe, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 6  |  Загрузок: 6

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.