jondurbin/airoboros-13b-gpt4-1.4.1-qlora - Каталог нейросетей
Генерация текста

jondurbin/airoboros-13b-gpt4-1.4.1-qlora

Добавлено:
jondurbin/airoboros-13b-gpt4-1.4.1-qlora

Это модель LlaMa с точной настройкой qlora с 13b параметрами, использующая полностью синтетические данные обучения, созданные gpt4 через https://github.com/jondurbin/airoboros Используемый набор данных: https://huggingface.co/datasets/jondurbin/airoboros-gpt4-1.4.1 Целью этого является предоставление людям возможности сравнивать полную точную настройку. https://huggingface.co/jondurbin/airoboros-13b-gpt4-1.4 для точной настройки qlora. В основном это расширение предыдущей серии gpt-4 с некоторыми дополнениями: исправлены (+ больше примеров) примеры кодирования многосимвольных многоповоротных диалогов на 10 языках из набора данных Rosettacode.org благодаря Майку, также известному как kryptkpr: https://huggingface.co/datasets/mike-ravkine/rosettacode-parsed больше примеров ролевых игр шутки загадки все инструкции по кодированию имеют эквивалент «PLAINFORMAT». версия сейчас (и все примеры Rosettacode были обучены с помощью PLAINFORMAT). Другими словами, это преамбула/системное приглашение, за которым следует один пробел, затем «USER:» (один пробел после двоеточия), затем приглашение (которое может содержать несколько строк, пробелов и т. д.), затем один пробел, за которым следует «ASSISTANT:» (с одним пробелом после двоеточия). Чтобы запустить полную версию собственной версии Pytorch, вы можете использовать мою вилку FastChat,…

Модальности:
Генерация текста


Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 5  |  Загрузок: 5

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.