Требуется ExllamaV2, которая разрабатывается turboderp https://github.com/turboderp/exllamav2 по лицензии MIT. Кроме того, использовалась модель LimaRP v3. Рекомендуется ознакомиться с документацией. — PygmalionAI/pygmalion-2-13b — Xwin-LM/Xwin-LM-13B-V0.1 — The-Face-Of-Goonery/Huginn-13b-FP16 — zattio770/120-Days-of-LORA-v2-13B — lemonilia/LimaRP-Llama2-13B-v3-EXPERIMENT Вы можете использовать эти настройки формата инструкций в SillyTavern. Замените tiny на желаемую длину ответа:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: AzureBlack
Теги: llama, not-for-all-audiences, nsfw, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.