НОВИНКА: Еретическая, без цензуры, удаленная версия «Джеммы Писательницы» ЗДЕСЬ. Это объединение моделей Gemma2 из лучших моделей повествования и письма, отмеченных на EQBench, специально настроенное для художественной литературы, рассказов и письма. Благодаря высокой стабильности и сжатому характеру модели вы также можете использовать ее для общего использования, включая ролевые игры. Для этой модели требуется шаблон GEMMA Instruct и имеется контекстное окно размером 8 КБ, но его можно расширить с помощью веревки до 32 КБ или выше. Изменение температуры (т. е. 0,4, 0,8, 1,5, 2, 3) радикально изменит выходные данные. Репсовое перо изменит прозу, выбор слов (нижнее репсовое перо = маленькие слова / больше маленьких слов — иногда) и креативность. Более длинные подсказки значительно повышают качество результатов модели. Более высокие кванты будут иметь больше деталей, нюансов и в некоторых случаях более сильные «эмоциональные» уровни. Персонажи также станут более «проработанными». Ощущение «там» также усилится. Q4KM/Q4KS — хорошие, сильные количественные показатели, однако, если вы можете выполнить Q5, Q6 или Q8 — выбирайте максимально возможный количественный показатель. В этом репозитории также есть 3 кванта «ARM» для компьютеров, которые поддерживают этот квант. Если вы используете их на машине без оружия, количество токенов в секунду будет очень низким. IQ4XS: Из-за необычной природы этого кванта (смешивания/обработки)…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, creative, creative writing, fiction writing, plot generation, sub-plot generation, story generation, scene continue
Лайков: 50 | Загрузок: 801
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
