8-битная квантованная версия MLX lukey03/Qwen3.5-9B, очищенная для собственного вывода Apple Silicon. Это полностью нецензурированная версия Qwen3.5-9B, в которой все поведение отказа удалено с использованием двухэтапного подхода: 3 итерационных прохода ортогонального проецирования (Ардити и др., 2024) с последующей тонкой настройкой LoRA для категорий упорного отказа. — Уровень удаления: 100 % (18/18 ответов на тестовые запросы по сравнению с 0/18 для базовой модели) — Тест конкурента: соответствует Dolphin-Mistral 7B в тестах на удаление, предлагая возможность 9B-параметров. MLX изначально работает на Apple Silicon с унифицированной памятью — без затрат на копирование графического процессора/ЦП, что делает его самым быстрым вариантом для пользователей Mac. 8-битное квантование обеспечивает более высокое качество, чем 4-битное, при небольшом увеличении размера. Добавьте /nothink` в конце приглашения, чтобы отключить режим мышления для более быстрого ответа. В полной карточке модели вы найдете полную методологию, тесты, примеры результатов и рекомендации по подсказкам системы. Эта модель предназначена для исследовательских и образовательных целей. Пользователи несут ответственность за обеспечение соответствия их использования применимым законам и этическим принципам.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lukey03
Теги: mlx, qwen3_5_text, abliterated, uncensored, qwen3.5, qwen, conversational, en
Лайков: 11 | Загрузок: 1,134
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.