Другая экспериментальная модель, использующая в основном синтетические данные, сгенерированные airoboros. Модели airobors 3.0 были обновлены для использования формата чата llama-2, а не пользователя/помощника в стиле vicuna! Это потрясающее изменение, хотя большинство систем вывода поддерживают шаблонизацию чата llama-2. Модель, построенная на наборе данных airoboros-3.0, который является продолжением набора данных airoboros-2.2.1 со следующими дополнениями: MathJSON — это еще не часть кода напрямую, но может быть легко проанализирована и выполнена, как способ выполнения детерминированных вычислений. LLMs отстой в математике, поэтому это делает постановку задач, и давайте работать традиционными операциями. Человеческий многооборотный разговор RP — предоставленный anon, это созданный человеком набор данных RP, предназначенный для поддержки многооборотной когерентности и общения в чате. Это довольно универсальная модель, но она в значительной степени фокусируется на следовании инструкциям, а не на случайном чате/ролевой игре. Огромное спасибо ребятам из a16z за спонсирование расходов, связанных со строительными моделями и связанными с ними инструментами! Вот простой скрипт Python, который может помочь сгенерировать подсказку: Задавайте математические вопросы с префиксом «Create a MathJSON solution to the…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 20
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
