Спасибо @brooketh за статические GGUF iMat + в центре моделей Фарадея! Спасибо @mradermacher за то, что вы также сделали GGUF и iMat GGUF. Встречайте Chaifighter 20B v2, мою флагманскую модель Mistral 20B Frankenmerge! Эта модель, обладающая креативностью, связностью и когнитивным мышлением, является отличным выбором для тех, кто неловко застрял между 13B и 34B. Я также хотел предложить альтернативу Psyonic Cetacean 20B Джеба Картера, фантастической модели, которую вам стоит попробовать, если вы еще этого не сделали! Проблема с этой моделью в том, что она основана на Llama 2, которая уже устарела. В старой архитектуре отсутствовало множество улучшений производительности, которые были представлены в архитектуре Mistral, а на моем RTX 4060 Ti с памятью 16 ГБ эти улучшения производительности были разницей между прилично высокой скоростью и невыносимо медленной. Chaifighter 20B ориентирован на длинные ролевые чаты, а не на короткие чаты IRC/Discord RP. Он любит многословие и детализацию, и его качество будет зависеть от того, сколько «боеприпасов» вы сможете ему дать. Хотя он в некотором роде может выполнять короткую форму с помощью небольшого пролистывания, на самом деле он не идеален. Но для тех мастеров написания эссе, которые любят вводить бурю в карточку персонажа, это…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: matchaaaaa
Теги: llama, mergekit, merge, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
