НАМНОГО ЛУЧШАЯ ВЕРСИЯ НА ОСНОВЕ MISTRAL СЕЙЧАС, КАК CAPYBARA V1.9. Серия Capybara создана путем тонкой настройки данных, созданных Nous, с помощью нашей новой техники синтеза данных под названием Amplify-instruct, метод распределения семян и синтеза состоит из синергетического сочетания лучших существующих методов синтеза данных и дистрибутивов, используемых для моделей SOTA, таких как Airoboros, Evol-Instruct, Orca, Vicuna, Know_Logic, Lamini, FLASK и другие — все в одном комплексном наборе данных и модели. Начальные инструкции, используемые для начала синтезированных диалогов, в основном основаны на таких наборах данных, как Airoboros, Know Logic, EverythingLM, GPTeacher и даже на совершенно новых начальных инструкциях, полученных из сообщений на веб-сайте LessWrong, а также дополнены некоторыми собственными многооборотными наборами данных, такими как Dove (преемник Puffin). Несмотря на отличную производительность в своем текущем состоянии, текущий набор данных, используемый для тонкой настройки, полностью содержится в 20 тысячах обучающих примеров, в основном состоящих из недавно синтезированных токенов разговора, которые, насколько нам известно, никогда ранее не использовались для обучения ИИ. Этот небольшой набор данных с точной настройкой имеет серьезные последствия…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: NousResearch
Теги: llama, llama-2, sft, eng, text-generation-inference, endpoints_compatible
Лайков: 26 | Загрузок: 576
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
