Этот репозиторий содержит текстовую 8-битную MLX-конверсию FINAL-Bench/Darwin-36B-Opus. Модель была преобразована с помощью mlx-lm и предназначена для эффективного вывода на Apple Silicon. — Исходная модель: FINAL-Bench/Darwin-36B-Opus — Формат: MLX — Квантование: 8 бит — Модальность: только текст — Среда выполнения: Apple Silicon — Рекомендуемый сервер: cubist38/mlx-openai-server Эта модель предназначена для обслуживания через мой OpenAI-совместимый MLX-сервер с открытым исходным кодом: сервер предоставляет OpenAI-совместимый API, что упрощает использование с существующими OpenAI SDK. агенты и инструменты. — Это преобразование MLX только для текста. — Это 8-битная квантованная версия, поэтому выходные данные могут отличаться от исходной контрольной точки. — Рекомендуемый способ обслуживания этой модели — через mlx-openai-server. — Команда запуска использует: — —reasoning-parser qwen3moe — —tool-call-parser qwen3coder — —served-model-name Darwin-36B-Opus Вся заслуга в создании исходной модели принадлежит FINAL-Bench/Darwin-36B-Opus. Этот репозиторий предоставляет только 8-битное преобразование текста MLX для пользователей Apple Silicon. Условия лицензирования и использования см. в исходном репозитории модели.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: GiaHuy
Теги: mlx, qwen3_5_moe, mlx-lm, mlx-openai-server, 8bit, quantized, apple-silicon, conversational
Лайков: 6 | Загрузок: 191
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
