> ⚠️ Внимание: работает с форматом ChatML и Mistral V7-Tekken (без вывода на мышление), мышление я не проверял. > > Протестировано с использованием Ik_llama.cpp в качестве бэкэнда и Sillytavern в качестве внешнего интерфейса. mergekit со следующими параметрами: — Базовая модель: Morax-24B-v1 — Dtype: bfloat16 — Плотность: 0,5 — Вес: 0,2 💙 Спасибо команде mradermacher за предоставление квантов 💙 И спасибо DeathGodlike за формат квантов EXL3 Спасибо авторам оригинальных моделей за их невероятную работу: — DarkArtsForge для Morax-24B-v1 — OddTheGreat для Circuitry24BV.3 — Дельта-вектор для Rei-24B-KTO — TheDrummer для Precog-24B-v1 и Rivermind-24B-v1
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MrRikyz
Теги: mistral, mergekit, merge, RP, NSFW, roleplay, conversational, text-generation-inference
Лайков: 7 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
