Это фиксированная версия OrcaMaid-v2-13b, расширенная до 32768 длины контекста через YaRN. У (теперь удаленной) модели v2 были проблемы с объединенным токенизатором, который не позволял ему останавливаться при необходимости и заставлял его выводить сломанные токены ChatML, такие как This is a gradient SLERP merge of Microsoft’s Orca-2-13b and Undi and IkariDev’s Noromaid-v0.1.1-13b, смещенные в сторону Orca. Как и в OrcaMaid v1, общая цель этого слияния — создать модель, которая звучит уникально по-человечески и естественно, не жертвуя интеллектом. Формат подсказки — Alpaca. Вы можете использовать стандартный формат, как показано на рисунке, но для достижения наилучших результатов вы должны настроить системную подсказку в соответствии с вашими конкретными потребностями. — BOS токен — EOS токен — Native context length is 32768 via YaRN (original context length was 4096) — Base model is Llama 2 — Из-за включения Orca-2-13b на модель распространяются условия Microsoft Research License — Thanks to Charles Goddard for his kind help with mergekit (as always) — Thanks to Undi and IkariDev for Noromaid
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ddh0
Теги: llama, custom_code, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 46
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
