Кванты матрицы важности (imatrix) GGUF для https://huggingface.co/152334H/miqu-1-70b-sf. Матрица важности была обучена для 100 тыс. токенов (200 пакетов по 512 токенов) с использованием wiki.train.raw. Эти кванты основаны на втором деквантовании по 152334H.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dranger003
Теги: gguf, endpoints_compatible, conversational
Лайков: 6 | Загрузок: 75
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.