> Важно: в этой модели используется формат квантования JANG — эквивалент GGUF для MLX в Apple Silicon. В настоящее время поддерживается только MLX Studio и пакетом Python jang-tools. JANG смешанной точности · CRACK удален · Мамба + MoE + Внимание · Никаких ограждений · 63 ГБ См. также: Nemotron JANG_2L CRACK — 43 ГБ, 96,2% HarmBench, 95,7% MMLU JANG (Jang Adaptive N-bit Grading) — формат квантования смешанной точности для Apple Silicon — эквивалент GGUF для MLX. CRACK (контролируемая отказная абляция посредством калиброванных нокаутов) устраняет безопасное выравнивание LLM на уровне веса. Эта модель предназначена для исследовательских и образовательных целей. Создатели не несут ответственности за любое неправомерное использование.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dealignai
Теги: mlx, nemotron_h, jang, quantized, mixed-precision, apple-silicon, moe, mamba
Лайков: 5 | Загрузок: 316
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.