Метка: mixed-precision - Страница 6 - Каталог нейросетей

Метка: mixed-precision

Генерация текста

MoringLabs/Nemotron-3-Super-120B-A12B-MLX-3.6bit

MLX-квантование смешанной точности NVIDIA Nemotron-3-Super-120B-A12B — гибридная архитектура Mamba2 + MoE + Attention. Эта модель обеспечивает производительность класса...

Генерация текста

mlx-community/gemma-4-31B-it-OptiQ-4bit

> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...

Генерация текста

mlx-community/gemma-4-12B-it-OptiQ-4bit

4-битный квант MLX смешанной точности, созданный mlx-optiq, набором инструментов квантования с учетом чувствительности для Apple Silicon. Оценка +6,40...

Генерация текста

mlx-community/Qwen3.5-2B-OptiQ-4bit

4-битный квант MLX смешанной точности, созданный mlx-optiq — набором инструментов квантования с учетом чувствительности для Apple Silicon. Превосходит...

Генерация текста

mlx-community/Qwen3.6-35B-A3B-OptiQ-4bit

4-битный квант MLX смешанной точности, созданный mlx-optiq — набором инструментов квантования с учетом чувствительности для Apple Silicon. Превосходит...

Генерация текста

bearzi/gemma-4-31B-it-JANG_1L

Это агрессивное квантование (2-битное среднее значение). На этом уровне сжатия качество вывода заметно ухудшается — ответы могут сначала...