Слияние двух похожих моделей Куноичи с вескими рассуждениями, которое, как мы надеемся, приведет к «плотному» кодированию указанных рассуждений, было объединено с ролевой игрой, ориентированной на модель. Я тестировал запросы ChatML с температурой = 1,1 и minP = 0,03. Сама модель поддерживает подсказки формата Альпака. В модели заявлена длина контекста 32 КБ, в моем неофициальном тестировании, похоже, она потеряла связность после 8 КБ. Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Вы также можете скачать кванты GGUF-IQ-Imatrix с сайта Lewdiculous. Также доступны кванты h8 exl2 и Q8_0 GGUF 8,0 бит в секунду. В объединение были включены следующие модели: grimjim/kuno-kunoichi-v1-DPO-v2-SLERP-7B KatyTheCutie/LemonadeRP-4.5.3 Для создания этой модели использовалась следующая конфигурация YAML:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: grimjim
Теги: mistral, mergekit, merge, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 77
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
