gemma-4-e2b-it-qat-OptiQ-4bit
> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...
Метка: 4bit
gemma-4-e4b-it-qat-OptiQ-4bit
> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...
gemma-4-31B-it-OptiQ-4bit
> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...
GLM-4.7-REAP-40-W4A16
> [!TIP] > Поддержите эту работу → · X · GitHub · REAP paper · Cerebras REAP 𓌳...
Plutus-Meta-Llama-3.1-8B-Instruct-bnb-4bit
Plutus-Meta-Llama-3.1-8B-Instruct-bnb-4bit — это доработанная версия модели LLaMA-3.1-8B, специально оптимизированная для задач в области финансов, экономики, торговли, психологии и...
GLM-4.6-218B-W4A16
> [!TIP] > Поддержите эту работу → · X · GitHub · Документ REAP · Cerebras REAP W4A16,...
UniNER-7B-all-GPTQ-4bit-128g-actorder_True
Universal-NER/UniNER-7B — все квантованы до 4 бит с помощью GPTQ и сохранены в размере 1 ГБ. Модель Universal-NER/UniNER-7B-all...
gemma-4-12B-it-OptiQ-4bit
4-битный квант MLX смешанной точности, созданный mlx-optiq, набором инструментов квантования с учетом чувствительности для Apple Silicon. Оценка +6,40...
Qwen3.5-2B-OptiQ-4bit
4-битный квант MLX смешанной точности, созданный mlx-optiq — набором инструментов квантования с учетом чувствительности для Apple Silicon. Превосходит...
Titus-CybersecurityLLM-v1.0-mlx-4Bit
Этот репозиторий содержит MLX-4-битный вариант Apple Silicon AlicanKiraz0/Titus-CybersecurityLLM-v1.0, первого в Турции помощника по кибербезопасности, доработанного на основе Qwen/Qwen3.6-35B-A3B....