Nous-Capybara-34B и Tess-M-Creative-v1.0 объединились, а затем квантовались с помощью exllamav2 по 200 строк (400 тыс. токенов) в длинном чате формата Vicuna, научно-фантастическом рассказе и фэнтезийном рассказе. Мы надеемся, что это должно обеспечить более высокую производительность чата, чем квантование викитекста по умолчанию. https://huggingface.co/NousResearch/Nous-Capybara-34B/discussions
Модальности:
Генерация текста
Задача: Генерация текста
Автор: brucethemoose
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 2
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
