Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Целью этого слияния было дополнить генерацию текста потенциальным творческим богатством моделей WizardLM-2 7B и Zephyr-7B-Beta, обоснованием модели Starling-LM-7B-beta и расширенной длиной контекста Mistral v0.2. Полученная модель очень внимательна к описаниям карт персонажей и способна применять рассуждения. Эта модель является более разумной, учитывая контекст и форматирование. Модель креативна и «хочет» писать, совместно объединяя детали и развивая сюжет, время от времени с неконтролируемым повествованием, если обнаруживает, что подсказка склоняется к этому. Протестировано с использованием подсказок ChatML Instruct, температуры 1,0 и minP 0,02. — Полные веса: grimjim/rogue-enchantress-32k-7B — Кванты GGUF: grimjim/rogue-enchantress-32k-7B-GGUF В слияние были включены следующие модели: grimjim/zephyr-wizard-kuno-royale-BF16-merge-7B grimjim/cuckoo-starling-7B Для создания этого файла использовалась следующая конфигурация YAML. модель:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: grimjim
Теги: mistral, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
