fp16 находится здесь: https://huggingface.co/ycros/airoboros-65b-gpt4-1.4.1-PI-8192-fp16. Peft-файл находится здесь: https://huggingface.co/ycros/airoboros-65b-gpt4-1.4.1-PI-8192-peft кванты ggml: https://huggingface.co/ycros/airoboros-65b-gpt4-1.4.1-PI-8192-GGML Это основано на airoboros 33b PI 8192 от bhenrym14, но на 65b. См. примечания bhenrym14, все применимо, за исключением того, что я основывал это на ламе-65B. Это точно настроенная модель LlaMa с 65b параметрами qlora, использующая полностью синтетические данные обучения, созданные gpt4 через https://github.com/jondurbin/airoboros. Это в основном расширение предыдущей серии gpt-4 с некоторыми дополнениями: исправлены (+ больше примеров) многосимвольные, многоходовые диалоги больше примеров ролевых игр шутки загадки * все инструкции по кодированию теперь имеют эквивалентную версию «PLAINFORMAT» (и все Примеры rosettacode были обучены с помощью PLAINFORMAT) Рекомендуемое приглашение (замените символы новой строки пробелом, символы новой строки используются здесь для удобства чтения, т. е. все приглашение в одной строке): Другими словами, это преамбула/системное приглашение, за которым следует один пробел, затем «USER:» (один пробел после двоеточия), затем приглашение (которое может состоять из нескольких строк, пробелов и т. д.), затем один пробел…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ycros
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
