Репозиторий: roleplaiapp/Qwen2.5-Coder-14B-Instruct-Uncensored-Q4KM-GGUF Исходная модель: Qwen2.5-Coder-14B-Instruct-Uncensored Квантованный файл: Qwen2.5-Coder-14B-Instruct-Uncensored.Q4KM.gguf Квантование: GGUF Метод квантования: Q4KM Это GGUF Q4KM квантованная версия Qwen2.5-Coder-14B-Instruct-Uncensored У меня часто простаивают графические процессоры во время сборки/тестирования приложения RP, поэтому я использую для них модели квантования. Я надеюсь, что сообщество найдет эти квантования полезными.
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат Генерация кода
Задача: Генерация текста
Автор: roleplaiapp
Теги: gguf, 14b, 4-bit, Q4_K_M, coder, instruct, llama-cpp, qwen25
Лайков: 5 | Загрузок: 2,746
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
