Пользовательское квантование INT8 в стиле AWQ для FINAL-Bench/Darwin-35B-A3B-Opus, преобразованное из Q80 GGUF. Более высокое качество, чем INT4 — рекомендуется для вывода, если позволяет ОЗУ.** Выпущено как часть профессиональной платформы автоматизации многоязычного дубляжа NOESIS (структура: DHCF-FNO — детерминированная гибридная система управления для операторов с замороженными нейронами). — Основатель: Илья Болотников — Организация: AMAImedia.com — X (Twitter): @AMAImediacom — LinkedIn: Илья Болотников — Telegram: @djbioncl — Версия NOESIS: v14.7 — Дата выпуска: 2026-04 > INT8 против INT4: симметричное 8-битное квантование сохраняет ~99,5% качества BF16 > (по сравнению с ~98–99% для ИНТ4). Разница в размере в 2 раза (~33 ГБ против ~17,8 ГБ) отражает > хранилище int8 на элемент по сравнению с парами, упакованными полубайтами. Рекомендуется для производственного вывода > при наличии ≥40 ГБ ОЗУ. Для конвейеров извлечения с ограничением памяти используйте вариант INT4. > Примечание по архитектуре: Darwin-35B-A3B-Opus был создан с помощью Darwin V5 — > управляемого диагностикой эволюционного механизма слияния (DARE-TIES через mergekit). > — Отец: Qwen/Qwen3.5-35B-A3B (базовая архитектура + RLHF) > — Мать: Jackrong/Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled (LoRA SFT) > > Ключевой диагностический результат: Мать…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: AMAImedia
Теги: qwen3_5_moe, image-text-to-text, awq, int8, quantization, moe, mixture-of-experts, noesis
Лайков: 10 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
