DavidAU/How-To-Set-and-Manage-MOE-Mix-of-Experts-Model-Activation-of-Experts

Как установить и управлять набором экспертов-MOE-модель-активация-экспертов В этом документе обсуждается, как установить/изменить состав экспертов в различных приложениях LLM/AI, а также содержатся ссылки на дополнительные модели MOE и другие полезные ресурсы. Смесь экспертных моделей, включая рассуждения/мышление, – GGUF: [ https://huggingface.co/collections/DavidAU/d-au-moe-mixture-of-experts-models-see-also-source-coll-67579e54e1a2dd778050b928] Исходный код всех моделей — для GGUF, AWQ, HQQ, GPTQ, EXL2 и прямое использование — включая MOE: [ https://huggingface.co/collections/DavidAU/d-au-source-files-for-gguf-exl2-awq-gptq-hqq-etc-etc-66b55cb8ba25f914cbf210be] #1 Все модели рассуждения/мышления — включая MOE — (коллекция) (GGUF): [ https://huggingface.co/collections/DavidAU/d-au-reasoning-deepseek-models-with-thinking-reasoning-67a41ec81d9df996fd1cdd60 ] #2 Все модели рассуждения/мышления, включая MOES — (коллекция) (исходный код для генерации GGUF, EXL2, AWQ, GPTQ, HQQ и т. д. и т. д. и напрямую использование): [ https://huggingface.co/collections/DavidAU/d-au-reasoning-source-files-for-gguf-exl2-awq-gptq-67b296c5f09f3b49a6aa2704 ] #3 Все адаптеры (коллекция) — превратите «обычную» модель в модель «мышления/рассуждения»:…

Модальности:
Генерация текста

Области применения:
Логика и рассуждение

Задача: Генерация текста
Автор: DavidAU
Теги: MOE, Mixture of Experts, Mixtral, 4X8, 2X8, deepseek, reasoning, reason
Лайков: 18  |  Загрузок: 0

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.