Это WizardLM, обученный на основе tiiuae/falcon-40b, с подмножеством набора данных — ответы, содержащие выравнивание/морализаторство, были удалены. Цель состоит в том, чтобы обучить WizardLM, который не имеет встроенного выравнивания, чтобы такое выравнивание (любого рода) можно было добавлять отдельно, например, с помощью RLHF LoRA. Спасибо сообществу AI/ML с открытым исходным кодом и всем, кто мне помог.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: QuixiAI
Теги: RefinedWeb, custom_code, text-generation-inference, endpoints_compatible
Лайков: 95 | Загрузок: 142
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
