Высокоточная модель с плавающей запятой 32, квантованная с плавающей запятой 32, а также с дополнительными улучшенными и дополненными квантовыми числами. Это объединение моделей Gemma2 из лучших моделей повествования/письма, отмеченных на EQBench, специально настроенное для художественной литературы, рассказов и письма. Эта версия «Mighty Sword» представляет собой объединение с точностью «float 32» для более высокого качества и производительности. Если бы стандартным источником было «HD», float32 было бы «UHD». Суть заключается в гораздо более сильной модели, большей детализации, большем нюансов, большей глубине… и более строгом следовании инструкциям. Кроме того, существуют специализированные переработанные кванты с компонентами с плавающей запятой 32 в самих квантах (подробно ниже). Это позволяет вам выбирать между стандартными (но также полученными из исходного кода с плавающей запятой 32) и «расширенными квантовыми числами» для еще более высокого качества. Эта модель значительно превзойдет оригинальную «Gemma The Writer 9B» [ https://huggingface.co/DavidAU/Gemma-The-Writer-9B-GGUF ] Благодаря высокой стабильности и сжатому характеру модели вы также можете использовать ее для общего использования, включая ролевые игры. Для этой модели требуется шаблон GEMMA Instruct и имеется контекстное окно размером 8 КБ, но его можно расширить с помощью веревки до 32 КБ или выше. Пример вывода ниже, включая «обычный», «MAX»…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, creative, creative writing, fiction writing, plot generation, sub-plot generation, story generation, scene continue
Лайков: 19 | Загрузок: 451
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
