Этот репозиторий содержит квантованные нунчаку версии T5-XXL, используемые для кодирования текстовых подсказок для встраивания. Он используется для уменьшения объема памяти модели. — Разработано: Nunchaku Team — Тип модели: генерация текста — Лицензия: apache-2.0 — Квантовано из модели: t5v11_xxl — awq-int4-flux.1-t5xxl.safetensors: квантованная модель AWQ W4A16 T5-XXL для FLUX.1. — Механизм вывода: нунчаку — Библиотека квантования: глубокий компрессор — Документ: SVDQuant: поглощение выбросов компонентами низкого ранга для 4-битных моделей диффузии — Демонстрация: demo.nunchaku.tech — Использование диффузоров: см. flux.1-dev-qencoder.py. Ознакомьтесь с нашим руководством для более продвинутого использования. — Использование ComfyUI: см. nunchaku-flux.1-dev-qencoder.json.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: nunchaku-ai
Теги: AWQ, Quantization, en, endpoints_compatible
Лайков: 26 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
