> Важно: в этой модели используется формат квантования JANG — эквивалент GGUF для MLX в Apple Silicon. В настоящее время поддерживается только MLX Studio и пакетом Python jang-tools. JANG смешанной точности · CRACK удален · Никаких ограждений · 63 ГБ Равномерное квантование MLX полностью нарушено на MiniMax на ВСЕХ битовых уровнях (~ 25% = случайная вероятность). JANG — единственный рабочий формат квантования для этой модели. Ограждения безопасности активно ухудшали способность модели рассуждать. Операция CRACK раскрыла полную способность модели к математическим и логическим рассуждениям. JANG (Jang Adaptive N-bit Grading) — это формат квантования смешанной точности для Apple Silicon — эквивалент GGUF для MLX. Классифицирует тензоры по уровням чувствительности и соответствующим образом назначает биты. CRACK (контролируемая абляция отказа посредством калиброванных нокаутов) удаляет безопасное выравнивание из LLM на уровне веса, используя послойные проецируемые векторы из структурно зеркальных пар подсказок. Эта модель предназначена для исследовательских и образовательных целей. Создатели не несут ответственности за любое неправомерное использование. Скачивая эту модель, вы соглашаетесь использовать ее ответственно и в соответствии с действующим законодательством.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dealignai
Теги: mlx, minimax_m2, jang, quantized, mixed-precision, apple-silicon, moe, abliterated
Лайков: 11 | Загрузок: 1,952
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
