Модели серии Blossom V5 полностью обучены с использованием высококачественных данных, полученных из gpt-4-0125-preview, что приводит к значительным улучшениям. Blossom — это разговорная большая языковая модель, точно настроенная на смешанный набор данных Blossom Orca/Wizard/Chat/Math на основе предварительно обученной модели Meta-Llama-3-8B. Blossom обладает надежными общими возможностями и пониманием контекста. Кроме того, высококачественные китайские и английские наборы данных, используемые для обучения, были сделаны с открытым исходным кодом. Обучение проводилось в два этапа. На первом этапе использовались однооборотные наборы инструкций 40K Wizard, 40K Orca, 10K Math, обучение за 1 эпоху; на втором этапе использовался многооборотный диалоговый набор данных чата 10K Blossom и 10% случайным образом отобранных данных с первого этапа, обучение за 3 эпохи. Вывод выполняется в виде продолжения диалога.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Azure99
Теги: llama, conversational, zh, en, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 47
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
