Слой Xwin-Mlewd был добавлен другим способом, чем я раньше, результат кажется хорошим, но я VRAMlet, поэтому пока могу запускать Q2 только в контексте 2k. Нужно посмотреть, действительно ли это работает хорошо, или мне просто повезло с подсказкой. LimaRP всегда активен, и поэтому его можно использовать для большего контроля над размером вывода.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Undi95
Теги: llama, not-for-all-audiences, nsfw, text-generation-inference, endpoints_compatible
Лайков: 15 | Загрузок: 133
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
