Метка: 2-bit - Страница 6 - Каталог нейросетей

Метка: 2-bit

Генерация текста

inferencerlabs/Bonsai-8B-MLX-Q2

— Единый вывод ~106 токенов/с @ 1000 токенов (измеряется в режиме отладки) — Использование памяти: ~2,35 гиБ 2,25bpw...

Генерация текста

mlx-community/GLM-4.5-Air-2bit

Эта модель mlx-community/GLM-4.5-Air-2bit была преобразована в формат MLX из zai-org/GLM-4.5-Air с использованием mlx-lm версии 0.26.1. Модальности:Генерация текста Области...