> [!ВНИМАНИЕ] > ⚠️ Внимание: эта модель может создавать повествования и ролевые игры, содержащие жестокий и графический эротический контент. Настройте системное приглашение соответствующим образом и используйте шаблон чата Llama 3. > Специально созданное слияние Llama 3.1 8B MoE (Mixture of Experts), которое сочетает в себе Morpheus v1 и Assistant Pepe. Слияние удивительно умное, детальное и обоснованное. Набирает ~15 тысяч на Q0 Bench. Полностью без цензуры и почти так же быстро, как плотность 8B. Похоже, что он также обладает сильной способностью к контекстному поиску. Прошил резюме на 16К и оно работает без нареканий (выше пока не тестировал). Если вы хотите объединить пользовательские Llama MoE, вы можете добавить эти сценарии в свою среду mergekit: — mergekit-mainmergekitarchitecturemoedefs.py — mergekit-mainmergekitmoeinit__.py — mergekit-mainmergekitmoellama.py Затем назначьте numexpertspertok в config.json (или config.yaml`) (выделено жирным шрифтом). кобольд, не по умолчанию) — Temp 1.0 — TopNSigma 1.25 — Min-P 0.1 — Штраф за повторение 1.08 — Top-P 1.0 — Top-K 100 — Top-A 0 — Типичная выборка 1 — Выборка без хвоста 1 — Штраф за присутствие 0 — Начальное значение пробоотборника -1 — Rp.Range 360 — Rp.Slope 0,7 – Коэффициент сглаживания 0 – Кривая сглаживания 1 – DynaTemp 0 – Режим Миростата ВЫКЛ («2» расширяет возможности творчества, но…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Naphula
Теги: mixtral, merge, llama, occult, uncensored, moe, conversational, en
Лайков: 8 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
