Этот проект изначально был запросом от BlueNipples: ссылка. Отличие от OG Toppy-M заключается в добавлении Noromaid с тремя моделями, использованными в Toppy-M, чтобы все модели были экспертами в этой модели MoE, а не просто объединялись одна в одну. ВНИМАНИЕ: ВСЕ «K» GGUF QUANT МОДЕЛЕЙ MIXTRAL КАЖЕТСЯ СЛОМАННЫМИ, ПРЕДПОЧИТАЮТ Q40, Q50 или Q8_0! — openchat/openchat_3.5 — NousResearch/Nous-Capybara-7B-V1.9 — HuggingFaceH4/zephyr-7b-beta — NeverSleep/Noromaid-13B-v0.1.1 — Lemonilia/AshhLimaRP-Mistral-7B — Vulkane/120-Days-of-Sodom-LoRA-Mistral-7b — Undi95/Mistral-pippa-sharegpt-7b-qlora
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Undi95
Теги: mixtral, not-for-all-audiences, nsfw, conversational, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 2
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.