Это точно настроенная модель LlaMa с 65b параметрами qlora, использующая полностью синтетические данные обучения, созданные gpt4 через https://github.com/jondurbin/airoboros. Это в основном расширение предыдущей серии gpt-4 с некоторыми дополнениями: исправлены (+ больше примеров) многосимвольные, многоходовые диалоги больше примеров ролевых игр шутки загадки * все инструкции по кодированию теперь имеют эквивалентную версию «PLAINFORMAT» (и все Примеры rosettacode были обучены с помощью PLAINFORMAT) Рекомендуемое приглашение (замените символы новой строки пробелом, символы новой строки используются здесь для удобства чтения, т. е. все приглашение в одной строке): Другими словами, это преамбула/системное приглашение, за которым следует один пробел, затем «USER:» (один пробел после двоеточия), затем приглашение (которое может содержать несколько строк, пробелов и т. д.), затем один пробел, за которым следует «ASSISTANT:» (с одним пробелом после двоеточия). Чтобы запустить полную точность/родную версию pytorch, вы можете использовать мою вилку FastChat, которая в основном такая же, но допускает многострочные запросы, а также опцию —no-history для предотвращения ошибок токенизации ввода. Затем вы можете вызвать его следующим образом (после загрузки модели): Для многоходовых разговоров и чатов вам понадобится…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 17 | Загрузок: 1,215
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
