Это доработка ORPO мета-ламы/Мета-Лламы-3-8B на mlabonne/orpo-dpo-mix-40k, созданная для этой статьи. Это успешная настройка, соответствующая шаблону ChatML! Попробуйте демо: https://huggingface.co/spaces/mlabonne/OrpoLlama-3-8B. В этой модели используется контекстное окно размером 8 КБ. Он был обучен с помощью шаблона ChatML. Спасибо bartowski, Solidrust и LoneStriker за квантованные модели. GGUF: https://huggingface.co/bartowski/OrpoLlama-3-8B-GGUF AWQ: https://huggingface.co/solidrust/OrpoLlama-3-8B-AWQ EXL2: https://huggingface.co/LoneStriker/OrpoLlama-3-8B-3.0bpw-h6-exl2 https://huggingface.co/LoneStriker/OrpoLlama-3-8B-4.0bpw-h6-exl2 https://huggingface.co/LoneStriker/OrpoLlama-3-8B-5.0bpw-h6-exl2 https://huggingface.co/LoneStriker/OrpoLlama-3-8B-6.0bpw-h6-exl2 https://huggingface.co/LoneStriker/OrpoLlama-3-8B-8.0bpw-h8-exl2 OrpoLlama-4-8B превосходит Llama-3-8B-Instruct в наборах данных GPT4All и TruthfulQA. Оценка выполнена с помощью LLM AutoEval, всю таблицу лидеров можно посмотреть здесь. mlabonne/OrpoLlama-3-8B-1k соответствует версии этой модели, обученной на 1К выборках (параметры можно посмотреть в этой статье). Текущая версия прошла обучение на полной эпохе.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mlabonne
Теги: llama, orpo, llama 3, rlhf, sft, conversational, en, text-generation-inference
Лайков: 53 | Загрузок: 29
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
