Хорошо, я очень старался улучшить свои слияния ChatML, но все пошло не так. Все добавляют специальные токены с разными идентификаторами, поэтому даже невозможно создать для них подходящий токенизатор объединения, черт возьми. Не говоря уже о том, что я сделал несколько… интересных открытий относительно длины контекста некоторых моделей. Подробности того, как это произошло, вы можете посмотреть здесь: https://www.captiongenerator.com/v/2303039/marinaraspaghetti’s-merging-experience. Этот вариант немного отличается от моих предыдущих попыток и кажется менее склонным к повторению, особенно в более высоких контекстах, что для меня здорово! Вероятно, я улучшу его еще больше, но на данный момент он кажется довольно приятным. Отлично подходит для РП и повествования. Вся благодарность и благодарность великолепным MistralAI, Intervitens, Sao10K и Nbeerbower за их потрясающие модели! Кроме того, отдельное спасибо Parasitic Rogue за идеи, а также Prodeus Unity и Statuo за крутые кванты exl2 из моих предыдущих слияний. Приветствую ребят на сервере Барабанщика! Всем хорошего настроения. Я рекомендую использовать температуру 1,0–1,25 с 0,1 Top A или 0,01–0,1 Min P и с 0,8/1,75/2/0 DRY. Также работает при более низких температурах ниже 1,0. Больше ничего не нужно. Вы можете использовать мои точные…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: MarinaraSpaghetti
Теги: mistral, mergekit, merge, text-generation-inference, endpoints_compatible
Лайков: 270 | Загрузок: 243
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
