mlabonne/NeuralDaredevil-8B-abliterated

Это доработанная версия DPO mlabonne/Daredevil-8, обученная на одной эпохе mlabonne/orpo-dpo-mix-40k. Точная настройка DPO успешно компенсирует потерю производительности из-за процесса удаления, что делает ее превосходной моделью без цензуры. В моих тестах NeuralDaredevil-8B-abliterated работает лучше, чем модель Instruct. Вы можете использовать его для любого приложения, не требующего выравнивания, например для ролевых игр. Протестировано в LM Studio с использованием пресетов «Llama 3» и «Llama 3 v2». Спасибо QuantFactory, ZeroWw, Zoyd, Solidrust и Tarruda за предоставление этих квантов. GGUF: https://huggingface.co/QuantFactory/NeuralDaredevil-8B-abliterated-GGUF GGUF (FP16): https://huggingface.co/ZeroWw/NeuralDaredevil-8B-abliterated-GGUF EXL2: https://huggingface.co/Zoyd/mlabonneNeuralDaredevil-8B-abliterated-40bpwexl2 AWQ: https://huggingface.co/solidrust/NeuralDaredevil-8B-abliterated-AWQ ollama: 16-бит: https://ollama.com/tarruda/neuraldaredevil-8b-abliterated 8-бит: https://ollama.com/lstep/neuraldaredevil-8b-abliterated 5-bit**: https://ollama.com/closex/neuraldaredevil-8b-abliterated NeuralDaredevil-8B — самая эффективная модель 8B без цензуры в таблице лидеров Open LLM (MMLU…

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: mlabonne
Теги: llama, dpo, conversational, model-index, text-generation-inference, endpoints_compatible
Лайков: 262  |  Загрузок: 17,073

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.