Технология класса NEO была создана после бесчисленных исследований и более 120 лабораторных экспериментов, подкрепленных реальными испытаниями и качественными результатами. Улучшение общей функциональности, выполнение инструкций, качество продукции и более тесная связь с идеями, концепциями и миром в целом. Кроме того, кванты теперь работают, так сказать, выше своего «класса»: снижение недоумения на 6829 пунктов для кванта Imatrix Нео-класса IQ4XS по сравнению с обычным квантом IQ4XS. Это число необычайно велико из-за высокой сложности исходной модели. Хотя в этой модели используется шаблон «Llama3», мы обнаружили, что шаблон Command-R лучше подходит именно для творческих целей. { «name»: «Cohere Command R», «inferenceparams»: { «inputprefix»: «», «inputsuffix»: «», «antiprompt»: [ «», «» ], «prepromptprefix»: «», «preprompt_suffix»: «» } } Максимальный контекст — 32 КБ. Пожалуйста, посетите страницу производителя оригинальной модели для получения подробной информации и информации об использовании этой модели. Особая благодарность создателям модели из SAO10K за создание такой фантастической модели: Настройки: ЧАТ / РОЛЕВАЯ ИГРА и/или ПЛАВНАЯ работа этой модели: в «KoboldCpp», «oobabooga/text-generation-webui» или «Silly Tavern»; -> если вы используете GGUF, вам нужно использовать «llama_HF» (который…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, story, general usage, roleplay, creative, rp, fantasy, story telling
Лайков: 16 | Загрузок: 1,423
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
