Метка: quantized - Страница 9 - Каталог нейросетей

Метка: quantized

Генерация текста

auroter/DeepSeek-V4-Flash-0731-NVFP4

NVFP4 маршрутизируемое экспертное квантование deepseek-ai/DeepSeek-V4-Flash-0731, полученное с помощью собственного опубликованного потока NVIDIA Model-Optimizerdeepseekv4 `(modelopt 0.45.0). На момент публикации...

Генерация текста

infosave/Qwen3.6-35B-A3B-Escha-W2cmf

12,87 ГБ, один файл, mmap-run — и 105 токенов/с декодируются на одной карте. Транскодирование EschaLabs/Qwen3.6-35B-A3B-Escha-W2 в контейнер CMF,...

Генерация текста

mlx-community/Laguna-S-2.1-OptiQ-2bit

> Созданный с помощью mlx-optiq, набор инструментов MLX-native для квантования, точной настройки и обслуживания LLM локально на Apple...

Генерация текста

mlx-community/Laguna-XS-2.1-OptiQ-4bit

> Созданный с помощью mlx-optiq, набор инструментов MLX-native для квантования, точной настройки и обслуживания LLM локально на Apple...