Репо: roleplaiapp/DeepSeek-R1-Distill-Qwen-32B-Q40-GGUF Исходная модель: DeepSeek-R1-Distill-Qwen-32B Организация: deepseek-ai Квантованный файл: deepseek-r1-distill-qwen-32b-q40.gguf Квантование: GGUF Метод квантования: Q40 Использовать Imatrix: Модель ложного разделения: False` Это Квантованная версия GGUF Q4_0 DeepSeek-R1-Distill-Qwen-32B. Во время создания/тестирования и обучения приложения RP у меня часто простаивают графические процессоры A100, поэтому я использую их для использования моделей квантования. Я надеюсь, что сообщество найдет эти квантования полезными.
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Диалог / чат Логика и рассуждение
Задача: Генерация текста
Автор: roleplaiapp
Теги: gguf, llama-cpp, DeepSeek-R1-Distill-Qwen-32B, Q4_0, 32b, deepseek-r1, qwen, deepseek-ai
Лайков: 6 | Загрузок: 52
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
