Nous-Capybara-34B and Tess-M-Creative-v1.0 merged, then quantized with exllamav2 on 200 rows (400K tokens) on a long Vicuna format chat, a sci fi story and a fantasy story. This should hopefully yield better chat performance than the default wikitext quantization. https://huggingface.co/NousResearch/Nous-Capybara-34B/discussions
Модальности:
Генерация текста
Задача: Генерация текста
Автор: brucethemoose
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.