Сверхвысокое качество — 20 Б Dark Forest Версия 3.0 — 32-битное масштабирование Полностью перестроено из мастер-файлов, включая полное слияние для поддержания полной 32-битной точности вплоть до сжатия в файлы GGUF, что приводит к обновлению сверху вниз. Результатом является превосходная производительность в следовании инструкциям, рассуждениях, глубине, нюансах и эмоциях. В среднем это означает, что q4km работает на уровне Q6, а Q6 и Q8 превосходят показатели полной точности исходной модели. Падение недоумения (чем ниже, тем лучше) близко к 10% (более 752 баллов за каждые 4 км) для всех квантов. Это означает, что точность была повышена для всех 20 миллиардов параметров, которые влияют на «плотность мозга» / «функцию», выполнение инструкций и качество вывода. Настройки: ЧАТ / РОЛЕВАЯ И/или ПЛАВНАЯ работа этой модели: в «KoboldCpp» или «oobabooga/text-generation-webui» или «Silly Tavern»; -> если вы используете GGUF, вам нужно использовать «llama_HF» (что включает в себя загрузку некоторых файлов конфигурации из SOURCE-версии этой модели) https://huggingface.co/collections/DavidAU/d-au-source-files-for-gguf-exl2-awq-gptq-hqq-etc-etc-66b55cb8ba25f914cbf210be — увеличьте количество повторений до От 1,1 до 1,15 (вам не нужно этого делать, если вы используете «smoothing_factor») — Если…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, story, roleplay, creative, rp, fantasy, story telling, 32 bit upscale
Лайков: 15 | Загрузок: 270
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
