Удаленная версия Qwen 3 4B, созданная с использованием Heretic v1.2.0. В этой модели уменьшено количество отказов при сохранении качества модели, что делает ее подходящей в качестве кодировщика текста без цензуры для таких моделей генерации изображений, как Z-Image и FLUX.2 Klein 4B. — Базовая модель: Qwen/Qwen3-4B — Метод уничтожения: Heretic v1.2.0 — Испытаний: 200 — Выбранных пробных испытаний: Испытание 96 — Отказов: 3/100 (против 100/100 оригинала) — Дивергенция KL: 0,0000 (нулевой измеримый ущерб модели) Используются варианты NVFP4 (4-битная с плавающей запятой, E2M1) Собственный формат квантования ComfyUI. Они примерно в 3 раза меньше, чем bf16, и загружаются в ComfyUI без каких-либо плагинов. Графические процессоры Blackwell (RTX 5090/5080, SM100+) могут использовать собственные тензорные ядра FP4 для достижения наилучшей производительности, но ComfyUI также поддерживает программное деквантование на старых графических процессорах (проверено на RTX 4090). 1. Загрузите файл формата ComfyUI: — FP8 (рекомендуется): comfyui/qwen3-4b-hereticfp8e4m3fn.safetensors (4,1 ГБ) — NVFP4 (самый маленький): comfyui/qwen3-4b-hereticnvfp4.safetensors (2,6 ГБ) — bf16 (полная точность): comfyui/qwen3-4b-heretic.safetensors` (7,5 ГБ) 3. В рабочем процессе Z-Image используйте узел ClipLoader и выберите еретический файл. Trial 96 был выбран из-за наименьшего количества отказов (3/100) с…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DreamFast
Теги: gguf, qwen3, abliteration, heretic, uncensored, qwen, z-image, zimage
Лайков: 9 | Загрузок: 1,039
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
