TL;DR: аблитерированный Ornith-1.5-35B-A3B как 26 ГБ для Apple Silicon через mlx-lm; жесткие отказы снижены на общем мастере с 586/1120 до 20/1120 на перекрестной оценке (родной брат NVFP4). Это сборка MLX того же аблитерированного мастера, используемого в репозиториях NVFP4 и GGUF. Создан для исследований безопасности, красного тиминга и рабочих процессов тестирования на проникновение; он будет соответствовать запросам, от которых отказывается модель запаса. Используйте ответственно. Эффективный процент отказов по 1120 вредоносным подсказкам в 5 наборах данных (временная отметка 0, жесткое отклонение фраз в первых 25 словах; наивное количество ключевых слов завышено ответами с отказом от ответственности и здесь не является показателем). Измерено на сборке NVFP4 идентичного мастера: Когерентность мастера: GPQA-Diamond 58,6% (базовая модель 61,1%, дельта минус 2,5 балла), needle-in-haystack 1,0 при 32k/65k/131k, tool-call smoke 1,0, KL(base|| ablated) median 0,218 (безвредное подмножество 0,110). Валидация, специфичная для MLX: каждый квант в этой лестнице был сгенерирован на устройстве и протестирован на дым (вредоносное быстрое соответствие нулевым маркерам жесткого отказа в первых 40 словах, а также проверки согласованности математики/капиталов). Полный тест не был выполнен на сборках MLX; это указано, а не пропущено молча. -…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ressl
Теги: mlx, qwen3_5_moe, apple-silicon, uncensored, abliterated, conversational, en, 6-bit
Лайков: 3 | Загрузок: 482
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.