Qwen 3 Reranker 4B в INT4. Сопряжение с набором Embedding для полностью локального стека поиска. ~ 2,7 ГБ на диске. Рекомендуемая VRAM: достаточно места для кэша KV. Этот артефакт является производной работой Qwen/Qwen3-Reranker-4B, выпущенной его первоначальными авторами под лицензией Apache, версия 2.0. Этот артефакт распространяется под той же лицензией. Полный текст лицензии включен в ЛИЦЕНЗИЮ, и обязательное указание авторства находится в УВЕДОМЛЕНИИ. Текст лицензии: https://www.apache.org/licenses/LICENSE-2.0 Исходная модель: https://huggingface.co/Qwen/Qwen3-Reranker-4B
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: drawais
Теги: qwen3, quantized, 4-bit, int4, awq, conversational, en, text-generation-inference
Лайков: 3 | Загрузок: 269
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
