GGUF importance matrix (imatrix) quants for https://huggingface.co/abacusai/Smaug-34B-v0.1 The importance matrix was trained for 100K tokens (200 batches of 512 tokens) using wiki.train.raw.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dranger003
Теги: gguf, endpoints_compatible, conversational
Лайков: 3 | Загрузок: 42
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.