Это квантованная версия mlabonne/NeuralDaredevil-8B-abliterated, созданная с использованием llama.cpp. Это тонкая настройка DPO mlabonne/Daredevil-8-abliterated, обученная на одной эпохе mlabonne/orpo-dpo-mix-40k. Точная настройка DPO успешно компенсирует потерю производительности из-за процесса удаления, что делает ее превосходной моделью без цензуры. В моих тестах NeuralDaredevil-8B-abliterated работает лучше, чем модель Instruct. Вы можете использовать его для любого приложения, не требующего выравнивания, например для ролевых игр. Протестировано в LM Studio с использованием пресета «Лама 3». NeuralDaredevil-8B — самая эффективная модель 8B без цензуры в таблице лидеров Open LLM (оценка MMLU). Оценка выполнена с использованием LLM AutoEval. Посмотреть всю таблицу лидеров можно здесь.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, dpo, model-index, endpoints_compatible
Лайков: 89 | Загрузок: 6,272
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
