Ниже приведены 3 тестовых запроса, которые начинаются с начального q2k [оригинал для сравнения], сопоставленные с обновлениями New Imatrix NEO V1 Q2K и New Imatrix NEO V1 IQ3_XXS. Эти тесты не отображают полный уровень/объем обновлений, это тестовый запуск для отображения первоначальных обновлений/изменений. Обратите внимание, что квант «IQ4_XS» является особенно мощным, как и квант IQ3. Если вы используете эту модель в творческих целях, я предлагаю загрузить все кванты IQ3, Q2K, IQ4XS и Q4/Q5 и тщательно сравнить различия для ваших вариантов использования, поскольку будут различия в поколениях для каждого кванта. Это предложение также применимо для использования более низких квантов — IE IQ1 и IQ2. Технология была разработана компанией DAVID_AU для специализированных «обновлений IMATRIX NEO V1». Технология класса NEO была создана после бесчисленных исследований и более 120 лабораторных экспериментов, подкрепленных реальными испытаниями и качественными результатами. Ниже приведена ссылка на специализированный «Ужас» (две версии) Command-R 35B: [ https://huggingface.co/DavidAU/Command-R-01-Ultra-NEO-DARK-HORROR-V1-V2-35B-IMATRIX-GGUF] Улучшенная общая функциональность, следование инструкциям, качество вывода и более тесная связь с идеями, концепциями и миром в целом.…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, story, general usage, roleplay, neo quant, creative, rp, fantasy
Лайков: 21 | Загрузок: 3,282
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
