oQ4e Квантование смешанной точности DavidAU/Qwen3.5-40B-RoughHouse-Claude-4.6-Opus-Polar-Deckard-Uncensored-Heretic-Thinking, квантованное с использованием oMLX oQ — квантование смешанной точности с учетом чувствительности на основе данных для Apple Silicon. Стандартные защитные тензоры, совместимые с mlx-lm. Работает с oMLX, LM Studio, mlx-lm и любым MLX-совместимым сервером вывода. > ⭐ Это рекомендуемый количественный показатель. Качество практически без потерь при уменьшении размера на 70%. Три теста фактически улучшились по сравнению с bf16. Подходит для MacBook емкостью 32 ГБ со сжатием кэша TurboQuant KV. Создано ДэвидАУ. Это вариант «RoughHouse» — сырая, необученная версия после расширения двух 27B Qwen 3.5 с тонкой настройкой до параметров 40B. — Архитектура: плотная 40B (не MoE), 96 слоев, 1275 тензоров — База: Qwen3.5-27B расширена до 40B (на 50 % больше слоев, чем базовая) — Обучение: Claude/Polaris (5 наборов данных) + Deckard/PDK (5 наборов данных) + Еретическая отсутствие цензуры — RoughHouse: Необработанный выпуск без финального этапа обучения после расширения —-|——|——|——|————|——-|————|———| ———|———|——|————-|——-|——|——-| — oQ4e практически без потерь — средняя дельта -0,8% по всем показателям. — Три показателя…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: Hunterx
Теги: mlx, qwen3_5, quantized, oQ, oQ4e, uncensored, abliterated, unsloth
Лайков: 8 | Загрузок: 162
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
