Базовая модель Qwen 2.5 72B, обученная для двух эпох на наборе данных Chronos Divergence с использованием ChatML. Он хорошо подходит для ролевых игр и написания рассказов, а также для выполнения общих задач помощника. В этой модели используется ChatML — ниже приведен пример. Это предустановка во многих интерфейсах. Обратите внимание, что мы тестировали эту модель с квантователем EXL2 5,0 бит/мин. Ожидается, что результаты не будут такими же при переходе ниже этого квантизации. Спасибо нашим модельным квантерам! Более высокая температура дает больше уникальности и меньше повторений. Пожалуйста, не считайте эти настройки «лучшими» — ваша системная подсказка имеет большое значение, и если вы играете в ролевую игру, используйте базовую системную подсказку в SillyTavern. Вы также можете попробовать другие сэмплеры, такие как Top P. Обратите внимание, что Presence Penalty работает с Repetition Penalty Range. Спасибо моей команде, состоящей из @ToastyPigeon, @Fizzarolli и меня @elinas. Дополнительная благодарность @AlpinDale и остальным членам команды PygmalionAI за любезное предоставление вычислительных ресурсов для точной настройки этой модели! Спасибо также anthracite-org за спонсирование этой модели. Мы использовали комбинацию предоставленных журналов и WizardLM evol, очищенных и удаленных. Спасибо Anthropic и OpenAI за модели, используемые для генерации синтетических и…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ZeusLabs
Теги: qwen2, roleplay, storywriting, qwen2.5, finetune, conversational, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 23
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
