Полное объединение и ремастер невероятного Psyfighter2 из исходных файлов. Зарегистрировано впечатляющее падение на 730 пунктов (чем меньше, тем лучше) на Q4KM. Это переводит «Q4KM» на уровень «Q6», а также повышает уровень Q6 и Q8. Аналогично, даже Q2K (наименьший квант) будет работать на гораздо более высоких уровнях, чем его первоначальный аналог. Результатом является превосходное выполнение инструкций, рассуждение, глубина, нюансы и эмоции. И как побочный эффект, для вывода доступно больше контекста из-за уменьшения размера подсказки. Обратите внимание, что разница между количественными показателями будет огромной, особенно для творческих случаев использования и/или случаев «нет правильного ответа». По этой причине рекомендуется загружать самый высокий квант, с которым вы можете работать, и, так сказать, его ближайших соседей. Версии Imatrix Plus в ближайшее время будут загружены в отдельный репозиторий. Этот ремастер использовался в получивших высокую оценку ремастерах Ultra Quality 20B: [ https://huggingface.co/DavidAU/Psyonic-Cetacean-Ultra-Quality-20b-GGUF ] [ https://huggingface.co/DavidAU/Psyonic-Cetacean-Ultra-Quality-20b-GGUF-imatrix ] Настройки высочайшего качества / Руководство по оптимальной эксплуатации / Параметры и семплеры Для всех настроек, используемых для этой модели (включая…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, creative, story, roleplay, rp, 32 bit upscale, remastered, writing
Лайков: 5 | Загрузок: 362
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
