orthorus-125b-moe
Это тестовый запуск будущей модели moe с параметрами 70b. Я взял WizardLM/WizardLM-70B-V1.0 и migtissera/Synthia-70B в качестве двух базовых...
Метка: moe
Ko-Mixtral-MoE-7Bx2
— Используя метод самостоятельного обучения, мы преобразовали необработанный корпус в настроенные данные. Модальности:Генерация текста Задача: Генерация текста Автор:...
Everyone-Coder-4x7b-Base-GPTQ
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
NexoNimbus-MoE-2x7B
NexoNimbus-MoE-2x7B — это смесь экспертов (MoE), созданная на основе следующих моделей: abideen/NexoNimbus-7B mlabonne/NeuralMarcoro14-7B 🏆 Оценка NexoNimbus-MoE-2x7B — 10-е...
youri-2x7b_dev
Эта модель представляет собой слияние следующих двух моделей Mixture of Experts (MoE): — rinna/youri-7b-instruction — rinna/youri-7b-chat Все оценки...
phixtral-4x2_8-gates-poc
phixtral-4×28-gates-poc — это phixtral-4×28 с точно настроенными воротами для лучшего выбора эксперта и нарушения симметрии. В качестве POC...
Lumosia-MoE-4×10.7-GPTQ
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
LiteLlamix-8x460M-1T
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: aloobun Теги: mixtral, moe, merge, mergekit, lazymergekit, ahxt/LiteLlama-460M-1T, llama2,...
Beyonder-4x7B-v2-exl2
Каждая ветвь содержит отдельные биты на вес, а основная содержит только файл meaurement.json для дальнейших преобразований. Используются аргументы...
DareBeagel-2x7B
Beyonder-2x7B-v2 — это смесь экспертов (MoE), созданная с использованием следующих моделей с использованием LazyMergekit: mlabonne/NeuralBeagle14-7B mlabonne/NeuralDaredevil-7B Модальности:Генерация текста...