Llama 3 8B — Dutch Разговорная модель для голландского языка на базе Llama 3 8B Попробуйте пообщаться с моделью! Эта модель представляет собой доработанную версию мета-ламы/Мета-Ллама-3-8B с QLORA и ORPO на синтетическом наборе данных обратной связи BramVanroy/ultrafeedbackdutch. Эта модель представляет собой голландскую модель чата, первоначально разработанную на основе Llama 3 8B и дополнительно уточненную с помощью набора данных обратной связи с ORPO и обученную на BramVanroy/ultrafeedbackdutch. Хотя модель согласована с gpt-4-turbo вывод, который имеет сильные фильтры контента, модель все равно может генерировать неправильный, вводящий в заблуждение и потенциально даже оскорбительный контент. Используйте на свой страх и риск. Модель обучалась в bfloat16 с QLORA с флэш-вниманием 2 на одном графическом процессоре — H100 80 ГБ SXM5 в течение примерно 24 часов на RunPod. Модель показала смешанные результаты в разных тестах; по некоторым показателям наблюдалось небольшое улучшение, а по другим — снижение оценок. Это произошло несмотря на то, что обучение проводилось только на 200 000 выборках за одну эпоху. Нам любопытно посмотреть, можно ли повысить его производительность за счет обучения на большем количестве данных или дополнительных эпохах. мета-лама/Мета-Ллама-3-8B-Instruct | 68,72 | 14,67 | 32,91 | 45,36 | 67,62 | 36,18 | 33.91…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ReBatch
Теги: llama, ORPO, llama 3 8B, conversational, nl, text-generation-inference, endpoints_compatible
Лайков: 15 | Загрузок: 627
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
