Это 4-битное квантование chavinlo/alpaca-native (cecc16d) через qwopqwop200/GPTQ-for-LLaMa (5cdfad2). llama.py /output/path c4 —wbits 4 —groupsize 128 —save alpaca7b-4bit.pt Пример вывода из репозитория GPTQ и фиксации, упомянутых выше:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ozcur
Теги: llama, endpoints_compatible
Лайков: 58 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
6-битное базовое квантование смешанной точности Qwen/Qwen3.6-27B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Проведено...
PowerMoE-3B — это 3B языковая модель с разреженной смесью экспертов (sMoE), обученная с помощью планировщика скорости обучения Power....
> [!ВАЖНО] > В настоящее время я ищу открытые вакансии! 🤗 > Если вы считаете эту модель полезной...
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: ConvexAI Теги: llama, conversational, model-index,...
