Это преобразование deepreinforce-ai/Ornith-1.0-397B в формат MLX, квантованное до 4 бит для использования на Apple Silicon с mlx-lm. — Базовая модель: deepreinforce-ai/Ornith-1.0-397B (Qwen3.5-MoE, Qwen35MoeForConditionalGeneration, всего 397B / MoE) — Формат: MLX, 4-битный (аффинный) — Примерный размер на диске: ~223 ГБ — Преобразовано с помощью: ** mlx-lm 0.31.2 > Примечание — только текст. Оригинальный Ornith-1.0-397B является мультимодальным (языковая модель кодировщика изображений). mlx-lm converts the language model only; the vision tower is not included. This build is for text generation. The tokenizer, chat template, and generationconfig` are included. This is a large MoE model. You need an Apple Silicon Mac with enough unified memory to hold the weights (roughly ~223 GB plus runtime overhead/KV cache). A 512 GB M3 Ultra runs all of these comfortably.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: pipenetwork
Теги: mlx, qwen3_5_moe, moe, conversational, en, 4-bit
Лайков: 3 | Загрузок: 55
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
