ressl/Ornith-1.5-9B-uncensored-MLX-6bit - Каталог нейросетей
Генерация текста

ressl/Ornith-1.5-9B-uncensored-MLX-6bit

Добавлено:
ressl/Ornith-1.5-9B-uncensored-MLX-6bit

TL;DR: аблитерированный Ornith-1.5-9B как 6,8 ГБ для Apple Silicon через mlx-lm; жесткие отказы снижены на общем мастере с 767/1120 до 20/1120 при перекрестной оценке (родственный NVFP4). Это сборка MLX того же аблитерированного мастера, используемого в репозиториях NVFP4 и GGUF. Создан для исследований безопасности, красного тиминга и рабочих процессов тестирования на проникновение; он будет соответствовать запросам, от которых отказывается модель запаса. Используйте ответственно. Эффективный процент отказов по 1120 вредоносным подсказкам в 5 наборах данных (временная отметка 0, жесткое отклонение фраз в первых 25 словах; наивное количество ключевых слов завышено ответами с отказом от ответственности и здесь не является показателем). Измерено на сборке NVFP4 идентичного мастера: Когерентность мастера: GPQA-Diamond 60,1% (базовая модель 49,5%), needle-in-haystack 1,0 при 32k/65k/131k, tool-call smoke 1,0, KL(base|| ablated) median 0,324 (безвредное подмножество 0,136). Валидация, специфичная для MLX: каждый квант в этой лестнице был сгенерирован на устройстве и протестирован на дым (вредоносное быстрое соответствие нулевым маркерам жесткого отказа в первых 40 словах, а также проверки согласованности математики/капиталов). Полная перекрестная оценка 1120-prompt была дополнительно выполнена на устройстве против 4-разрядной сборки (mlxlm.server, Apple M5 Max):…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: ressl
Теги: mlx, qwen3_5, apple-silicon, uncensored, abliterated, conversational, en, 6-bit
Лайков: 3  |  Загрузок: 401

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.