в основном непроверено, используйте, если хотите, или дождитесь некоторой проверки. Это полная (не qlora) модель LlaMa с тонкой настройкой параметров 7b, использующая полностью синтетические данные обучения, созданные gpt4 через https://github.com/jondurbin/airoboros. По сути, это расширение предыдущей серии gpt-4 с некоторыми дополнениями: исправлены (+ больше примеров) примеры кодирования многосимвольных многоповоротных разговоров на 10 языках из набор данных rosettacode.org благодаря Майку, также известному как kryptkpr: https://huggingface.co/datasets/mike-ravkine/rosettacode-parsed больше примеров ролевых игр шутки загадки все инструкции по кодированию теперь имеют эквивалентную версию «PLAINFORMAT» (и все примеры rosettacode были обучены с помощью PLAINFORMAT). Другими словами, это преамбула/системное приглашение, за которым следует один пробел, а затем «USER:» (один пробел после двоеточия), затем приглашение (которое может состоять из нескольких строк, пробелов и т. д.), затем один пробел, за которым следует «ПОМОЩНИК:» (с одним пробелом после двоеточия). Чтобы запустить полную точность/родную версию pytorch, вы можете использовать мою вилку FastChat, которая в основном такая же, но допускает многострочные запросы, а также опцию —no-history для предотвращения ошибок токенизации ввода. Тогда вы сможете…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 473
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
