Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Каждый компонент слияния уже был подвергнут управлению ортогональной активацией (OAS) для уменьшения количества отказов. Полученная модель завершения текста должна быть универсальной как для позитивных, так и для негативных сценариев ролевой игры и повествования. При использовании этой модели следует соблюдать осторожность. — mlabonne/NeuralDaredevil-8B-abliterated: высокий MMLU для рассуждений — NeverSleep/Llama-3-Lumimaid-8B-v0.1-OAS: фокус на ролевой игре — Hastagaras/Halu-OAS-8B-Llama3: фокус на рассказывании историй Протестировано со следующими настройками сэмплера: — температура 1-1,45 — minP 0.01-0.02 Файлы количественной модели: — статические кванты GGUF с/о mradermacher — взвешенные/иматричные кванты GGUF с/о mradermacher — квант 8bpw exl2 Эта модель была объединена с использованием метода арифметического слияния задач с использованием mlabonne/NeuralDaredevil-8B-abliterated в качестве основы. В объединение также были включены следующие модели: NeverSleep/Llama-3-Lumimaid-8B-v0.1-OAS Hastagaras/Halu-OAS-8B-Llama3 Для создания этой модели была использована следующая конфигурация YAML:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: grimjim
Теги: llama, mergekit, merge, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
