LoneStriker/lzlv_70b_fp16_hf-2.4bpw-h6-exl2-2 - Каталог нейросетей
Генерация текста

LoneStriker/lzlv_70b_fp16_hf-2.4bpw-h6-exl2-2

Добавлено:
LoneStriker/lzlv_70b_fp16_hf-2.4bpw-h6-exl2-2

Мультимодель, объединяющая несколько тонких настроек LLaMA2 70B для ролевых игр и творчества. Цель заключалась в том, чтобы создать модель, которая сочетает в себе креативность и интеллект для повышения удобства работы. Это сработало? Наверное, может быть. Субъективно он показался мне лучше, чем каждая из отдельных моделей в моих тестах. GGUF 4КМ + 5КМ можно найти здесь: https://huggingface.co/lizpreciatior/lzlv70bfp16_hf/settings Используемые модели: — NousResearch/Nous-Hermes-Llama2-70b — Отличная модель для ролевых игр, но не лучшая при выполнении сложных инструкций. — Xwin-LM/Xwin-LM-7B-V0.1 — отлично выполняет инструкции и достаточно креативен «из коробки», поэтому кажется, что это лучшая доступная модель, которая может послужить основой для слияния. — Доктор-Дробовик/Mythospice-70b — Подстановочный знак из трех. Я искал креативную, ориентированную на NSFW модель, и наткнулся на нее, копаясь в hf. Раньше я о ней не слышал, и, видимо, никто не удосужился выпустить квантованную версию этой модели. Поэтому я скачал его и сделал это сам, чтобы проверить. Это оказалось более или менее тем, что я искал в качестве третьего компонента, поэтому я использовал его здесь. Огромное спасибо создателям моделей выше. Если вы посмотрите Mythospice,…

Модальности:
Генерация текста


Задача: Генерация текста
Автор: LoneStriker
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 7  |  Загрузок: 5

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.