NVIDIA-Nemotron-3-Super-120B-A12B-MLX-Q9
См. NVIDIA-Nemotron-3-Super-120B-A12B MLX в действии – демонстрационное видео – Одиночный вывод ~33,7 токенов/с при 1000 токенов – Пакетный...
Метка: 8-bit
Qwen3.5-122B-A10B-Text-qx85-mlx
Qx85 использует 5-битные хранилища данных и 8-битные пути внимания, внедрения и заголовок. Он был спроектирован так, чтобы соответствовать...
GLM-4.7-Flash-8bit-gs32
Эта модель mlx-community/GLM-4.7-Flash-8bit-gs32 была преобразована в формат MLX из zai-org/GLM-4.7-Flash с использованием mlx-lm версии 0.30.5. Модальности:Генерация текста Области...
translategemma-27b-it-8bit
Эта модель mlx-community/translategemma-27b-it-8bit была конвертирована в формат MLX из google/translategemma-27b-it с использованием mlx-lm версии 0.29.1. Модальности:Генерация текста Области...
translategemma-4b-it-8bit
Эта модель mlx-community/translategemma-4b-it-8bit была конвертирована в формат MLX из google/translategemma-4b-it с использованием mlx-lm версии 0.29.1. Модальности:Генерация текста Области...
Orchestrator-8B-8bit
Эта модель mlx-community/Orchestrator-8B-8bit была конвертирована в формат MLX из nvidia/Orchestrator-8B с использованием mlx-lm версии 0.28.4. Модальности:Генерация текста Области...
GLM-4.6-NVFP4
Квантованная версия GLM-4.6 с использованием LLM Compressor и формата NVFP4 (E2M1 + E4M3). Это должно стать началом новой...
XBai-o4-8bit
Эта модель mlx-community/XBai-o4-8bit была конвертирована в формат MLX из MetaStoneTec/XBai-o4 с использованием mlx-lm версии 0.26.2. Модальности:Генерация текста Области...
Qwen3-Coder-30B-A3B-Instruct-gptq-8bit
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Генерация кода Следование инструкциям Задача: Генерация текста Автор: btbtyler09...
Jan-nano-8bit
Эта модель mlx-community/Jan-nano-8bit была конвертирована в формат MLX из Menlo/Jan-nano с использованием mlx-lm версии 0.25.2. Модальности:Генерация текста Области...