Кванты матрицы важности (imatrix) GGUF для https://huggingface.co/deepseek-ai/deepseek-coder-33b-instruct Матрица важности была обучена для 100 тыс. токенов (200 пакетов по 512 токенов) с использованием wiki.train.raw. 13 марта 2024 г.: обновлен IQ1S с использованием последней фиксации 19885d20`. Дополнительная информация здесь и здесь.
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода Следование инструкциям
Задача: Генерация текста
Автор: dranger003
Теги: gguf, endpoints_compatible, conversational
Лайков: 7 | Загрузок: 348
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.