Метка: mixed-precision - Каталог нейросетей

Метка: mixed-precision

Генерация текста

mlx-community/gemma-4-31B-it-OptiQ-4bit

> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...

Генерация текста

mlx-community/gemma-4-12B-it-OptiQ-4bit

4-битный квант MLX смешанной точности, созданный mlx-optiq, набором инструментов квантования с учетом чувствительности для Apple Silicon. Оценка +6,40...

Генерация текста

mlx-community/Qwen3.5-2B-OptiQ-4bit

4-битный квант MLX смешанной точности, созданный mlx-optiq — набором инструментов квантования с учетом чувствительности для Apple Silicon. Превосходит...

Генерация текста

mlx-community/Qwen3.6-35B-A3B-OptiQ-4bit

4-битный квант MLX смешанной точности, созданный mlx-optiq — набором инструментов квантования с учетом чувствительности для Apple Silicon. Превосходит...

Генерация текста

bearzi/gemma-4-31B-it-JANG_1L

Это агрессивное квантование (2-битное среднее значение). На этом уровне сжатия качество вывода заметно ухудшается — ответы могут сначала...