В этом репозитории находится Kunoichi-7B, модель общего назначения, поддерживающая RP. И в моем тестировании, и в тестах Куноичи оказался чрезвычайно сильной моделью, сохранившей преимущества моих предыдущих моделей, но получившей больше интеллекта. Куноичи показывает очень хорошие результаты по всем критериям, которые тесно коррелируют с ChatBot Arena Elo. Модель предназначена для использования с контекстным окном размером до 8К. Используя альфа-версию NTK RoPE 2,6, модель можно использовать экспериментально до контекстного окна 16 КБ. Я нашел лучшие результаты SillyTavern, используя шаблон Noromaid. Кроме того, вот мой настоятельно рекомендуемый шаблон завершения текста. Вы можете настроить это, увеличив или уменьшив температуру min p, чтобы повысить креативность, или повысив min p, чтобы повысить стабильность. Больше ничего трогать не нужно! Kunoichi-7B — это результат слияния SLERP моей предыдущей модели RP, Silicon-Maid-7B, и неизданной модели, которую я назвал «Ninja-7B». Эта модель является результатом моей попытки объединить модель, ориентированную на RP, которая сохранила сильные стороны Silicon-Maid-7B, но еще больше увеличила интеллектуальные возможности модели. Я стремился улучшить как MT-Bench, так и EQ-Bench, не теряя при этом сильной способности Silicon Maid следовать…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: SanjiWatsuki
Теги: mistral, merge, text-generation-inference, endpoints_compatible
Лайков: 87 | Загрузок: 741
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
