Репо: roleplaiapp/DeepSeek-R1-Distill-Qwen-32B-Uncensored-Q80-GGUF Исходная модель: DeepSeek-R1-Distill-Qwen-32B-Uncensored Квантованный файл: DeepSeek-R1-Distill-Qwen-32B-Uncensored.Q80.gguf Квантование: GGUF Метод квантования: Q80` Это GGUF Квантованная версия Q8_0 DeepSeek-R1-Distill-Qwen-32B-Uncensored У меня часто простаивают графические процессоры во время создания/тестирования приложения RP, поэтому я использую их для использования моделей квантования. Я надеюсь, что сообщество найдет эти квантования полезными.
Модальности:
Генерация текста
Области применения:
Диалог / чат Логика и рассуждение
Задача: Генерация текста
Автор: roleplaiapp
Теги: gguf, 32b, 8-bit, Q8_0, deepseek, distill, llama-cpp, qwen
Лайков: 5 | Загрузок: 369
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
