«Люмосия» была выбрана в качестве МО Множественных СОЛНЕЧНЫХ Слияний, так что она действительно «освещает путь»… сейчас 3 часа ночи. Это очень экспериментальная модель. это MoE всех хорошо работающих моделей Solar (основано на личном опыте, а не на открытой таблице лидеров). Целью модели было добиться хороших результатов в чате/логике/rp. Lumosia-MoE-4×10.7 представляет собой смесь экспертов (MoE), созданную из следующих моделей: DopeorNope/SOLARC-M-10.7B maywell/PiVoT-10.7B-Mistral-v0.2-RP kyujinpy/Sakura-SOLAR-Instruct jeonsworld/CarbonVillain-en-10.7B-v1 Среднее: 69,61 ARC: 68,34 HellaSwag: 87,13 MMLU: 64,38 T-QA: 63,81 Виногранде: 82,95 * GSM8K: 51,02
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: SteelStorage
Теги: mixtral, moe, merge, mergekit, Solar Moe, Solar, Lumosia, conversational
Лайков: 10 | Загрузок: 48
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
