Модель была дополнительно доработана на наборе недавно сгенерированных 50 миллионов токенов высокого качества, связанных с финансовыми темами, охватывающими такие темы, как экономика, фиксированный доход, акции, корпоративное финансирование, деривативы и управление портфелем. Данные были собраны из общедоступных источников и прошли несколько этапов обработки в инструкции из первоначального количества более 250 миллионов токенов. Чтобы избежать забывания информации из исходной точной настройки, данные были смешаны с наборами инструкций по темам кодирования, общих знаний, НЛП и разговорного диалога. Модель показала улучшение по ряду показателей по сравнению с исходной моделью, особенно по математике и экономике. Эта модель представляет собой первый случай, когда модель 8B смогла убедительно получить проходной балл на экзамене CFA уровня 1, требующем типичных 300 часов обучения, что указывает на значительное улучшение финансовых знаний. Если вы работаете в финансовом и инвестиционном секторах, вы знаете о CFA: этот экзамен известен как «самый сложный в мире», и для изучения всех трех уровней обычно требуется в общей сложности более 1000 часов. Ниже приведено сравнение различных моделей на образце пробного экзамена CFA уровня 1…
Модальности:
Генерация текста
Области применения:
Математика Логика и рассуждение Диалог / чат Финансы
Задача: Генерация текста
Автор: mukaj
Теги: llama, llama-3.1, finance, economics, math, reasoning, finetuning, conversational
Лайков: 48 | Загрузок: 1,304
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
