Ищете версию 103B? Вы можете получить его у FluffyKaeloky/Midnight-Miqu-103B-v1.5. Это линейное слияние DARE между sophosympatheia/Midnight-Miqu-70B-v1.0 и migtissera/Tess-70B-v1.6. Эта версия близка по ощущениям и производительности к Midnight Miqu v1.0, но я думаю, что она переняла некоторые достоинства от Тесс. Их оценки EQ Bench практически одинаковы, как и их показатели квантовой недоумения после EXL2. Тем не менее, Midnight Miqu v1.5 проходит некоторые тесты, которые я использую, а Midnight Miqu v1.0 терпит неудачу, не жертвуя при этом качеством записи. Эта модель без цензуры. Вы несете ответственность за все, что вы с ним делаете. Эта модель была разработана для ролевых игр и рассказывания историй, и я думаю, что она хорошо справляется с обоими задачами. Он также может хорошо справляться с другими задачами, но я не проверял его производительность в других областях. Вы можете запустить эту модель в контексте 32 КБ, установив значение Alpha_rope равным 1, как и в случае с Miqu. Я рекомендую использовать квадратичную выборку (т. е. коэффициент сглаживания) для творческой работы. Я думаю, что эта версия работает лучше всего с коэффициентом сглаживания, близким к 0,2. Я рекомендую использовать Min-P. Поэкспериментируйте, чтобы найти наилучшие настройки. Если хотите, вы можете включить динамическую температуру, но это добавляет еще одну переменную в…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: sophosympatheia
Теги: llama, mergekit, merge, conversational, model-index, text-generation-inference, endpoints_compatible
Лайков: 246 | Загрузок: 9,770
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
