Эта модель представляет собой доработанную версию мета-ламы/Мета-Лламы-3-8B-Instruct с использованием ORPO на 2A2I/argilla-dpo-mix-7k-arabic. Я хотел попробовать ORPO и посмотреть, будет ли он лучше согласовывать предвзятую английскую модель, такую как llama3, с арабским языком, или это потерпит неудачу. Хотя оценки отдают предпочтение базовой ламе3 над моей точной настройкой, на практике я обнаружил, что моя тонкая настройка намного лучше воспроизводит связный (в основном правильный) арабский текст, который мне кажется интересным. Я бы посоветовал всем опробовать модель отсюда и поделиться со мной своими идеями ^^ Этот результат был получен с использованием задач Lighteval с сообществом | arabicmmlu__.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: MohamedRashad
Теги: llama, conversational, ar, text-generation-inference, endpoints_compatible
Лайков: 17 | Загрузок: 4,148
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
