«Тёмная» модель творческого письма с контекстом 32k. Основан на miqu-1-70b, но со значительно уменьшенным количеством «позитивности» и «-измов». Если вы хотите счастливый конец, ищите другое место! Эта модель превосходно подходит для написания фэнтези Dark/Grimdark (см. примеры ниже). Эта модель почти такая же, как Dark-Miqu-70B, но с шаблоном слияния SLERP @sophosympatheia: измененным для использования вместо этого усеченного треугольного распределения: это сохраняет неизмененными первые 16 и последние 16 слоев (что соответствует тому, что люди обнаружили для шаблонов чередования франкенмерджа) и потенциально устраняет проблему «плохой грамматики», с которой некоторые люди сталкиваются с Dark-Miqu-70B (к сожалению, я хотя это невозможно повторить…). К счастью, это изменение также не требует воссоздания всего слияния с нуля, и мы можем просто использовать это: miqu-1-70b-sf — это деквантованная версия модели miqu-1-70b, утекшая из MistralAI. Все модели, производные от miqu, включая это слияние, подходят только для некоммерческого личного использования. Следующий набор «мрачных» историй был создан с использованием формата подсказок Vicuna без системного сообщения и температуры = 0: Напишите мне первую главу трилогии историй «Гримдарк» в стиле Джо Аберкромби…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jukofyork
Теги: llama, mergekit, merge, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
