Dark Sapling V2 7B — 32k Контекст — Ультра качество — 32-битное повышение качества. Полное переслияние и ремастер невероятного контекста Dark Sapling V2 7B — 32k из исходных файлов. Зарегистрировано впечатляющее падение на 320 пунктов (чем меньше, тем лучше) на Q4KM. Это переводит «Q4KM» на уровень «Q6», а также повышает уровень Q6 и Q8. Аналогично, даже Q2K (самый маленький квант) будет работать на гораздо более высоких уровнях, чем его исходный аналог. Результатом является превосходное выполнение инструкций, рассуждение, глубина, нюансы и эмоции. И как побочный эффект, для вывода доступно больше контекста из-за уменьшения размера подсказки. Обратите внимание, что разница между количественными показателями будет огромной, особенно для творческих случаев использования и/или случаев «нет правильного ответа». По этой причине рекомендуется загружать самый высокий квант, с которым вы можете работать, и, так сказать, его ближайших соседей. Версии Imatrix Plus в ближайшее время будут загружены в отдельный репозиторий. Настройки высочайшего качества / Руководство по оптимальной эксплуатации / Параметры и пробоотборники Для всех настроек, используемых для этой модели (включая особенности ее «класса»), включая генерацию примеров и руководство по расширенным настройкам (которое во многих случаях решает любые проблемы модели),…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, creative, story, roleplay, rp, 32 bit upscale, remastered, writing
Лайков: 9 | Загрузок: 919
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
