Это слияние SLERP между 152334H/miqu-1-70b-sf и sophosympatheia/Midnight-Rose-70B-v2.0.3. Я думаю, что эта модель сохраняет многое из того, что делало Midnight Rose особенной, но при этом получает некоторые возможности от Miqu, включая возможности долгого контекста. Эта модель без цензуры. Вы несете ответственность за все, что вы с ним делаете. Эта модель была разработана для ролевых игр и рассказывания историй, и я думаю, что она хорошо справляется с обоими задачами. Он также может хорошо справляться с другими задачами, но я не проверял его производительность в других областях. Вы можете запустить эту модель в контексте 32 КБ, установив значение Alpharope равным 1, как и в случае с Miqu. Ограниченное тестирование показывает когерентность до 64K с использованием AlphaRope 2.5. Наслаждаться! Я рекомендую использовать квадратичную выборку (т. е. коэффициент сглаживания) для творческой работы. Поэкспериментируйте со значениями от 0,2 до 0,5. Я рекомендую использовать Min-P. Поэкспериментируйте, чтобы найти наилучшие настройки. Вы можете включить динамическую температуру, если хотите, но это добавляет еще одну переменную, которую следует учитывать, и я считаю, что в ней нет необходимости, поскольку вы уже используете Min-P и коэффициент сглаживания. С этой моделью вам не нужно использовать высокий штраф за повторение, например, выше 1,10, но поэкспериментируйте с ним. Поэкспериментируйте с любыми настройками ниже!…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: sophosympatheia
Теги: llama, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 70 | Загрузок: 342
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
