Этот репозиторий содержит Kunoichi-7B, модель общего назначения, способную к RP. Как в моем тестировании, так и в тестах, Kunoichi является чрезвычайно сильной моделью, сохраняя преимущества моих предыдущих моделей, но приобретая больше интеллекта. Kunoichi забивает очень хорошо по всем бенчмаркам, которые тесно коррелируют с ChatBot Arena Elo. Модель предназначена для использования с контекстным окном до 8k. Используя NTK RoPE альфа 2,6, модель может быть использована экспериментально до контекстного окна 16k. Я нашел лучшие результаты SillyTavern от использования шаблона Noromaid. Кроме того, вот мой настоятельно рекомендуемый пресет для заполнения текста. Вы можете настроить это, регулируя температуру вверх или понижая min p, чтобы повысить креативность, или повышая min p, чтобы повысить стабильность. Вам больше не нужно ничего трогать! Kunoichi-7B — это слияние SLERP между моей предыдущей моделью RP, Silicon-Maid-7B, и невыпущенной моделью, которую я назвал «Ninja-7B». Эта модель является результатом моей попытки объединить модель, ориентированную на RP, которая сохранила сильные стороны Silicon-Maid-7B, но еще больше увеличила мощность мозга модели. Я стремился увеличить как MT-Bench, так и EQ-Bench, не теряя сильной способности Silicon Maid следовать…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: LoneStriker
Теги: mistral, merge, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
