Reflection Llama-3.1 70B — это LLM с открытым исходным кодом, обученный с использованием новой методики под названием Reflection-Tuning, которая учит LLM обнаруживать ошибки в своих рассуждениях и исправлять курс. Модель была обучена на синтетических данных, сгенерированных Glaive. Если вы тренируете модель, Glaive невероятен — используйте их. Обучившись на Llama 3.1 70B Instruct, вы можете использовать образец Reflection Llama-3.1 70B, используя тот же код, конвейеры и т. д., что и любая другая модель Llama. Он даже использует стандартный формат шаблона чата Llama 3.1 (хотя мы обучили его нескольким новым специальным токенам, помогающим в рассуждениях и размышлениях). Во время выборки модель начнет с вывода рассуждений внутри и тегов, а затем, как только она будет удовлетворена своими рассуждениями, она выведет окончательный ответ внутри и тегов. Каждый из этих тегов представляет собой специальные токены, встроенные в модель. Это позволяет модели отделить свои внутренние мысли и рассуждения от окончательного ответа, улучшая взаимодействие с пользователем. Внутри раздела модель может выводить один или несколько тегов, которые сигнализируют о том, что модель обнаружила ошибку в своих рассуждениях и попытается исправить ее, прежде чем дать окончательный ответ. Мы рекомендуем использовать именно эту системную подсказку, чтобы…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mattshumer
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 1,713 | Загрузок: 286
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
