> [!TIP] > Поддержите эту работу → · X · GitHub · Документ REAP · Cerebras REAP 𓌳 REAP𓌳 Эксперты: почему сокращение преобладает при однократном сжатии MoE 📄 Документ • 💻 Код REAP-сокращенный + W3A16 квантованный DeepSeek-V3.2 для эффективного развертывания. Компания Cerebras использовала одни и те же три набора данных в своих экспериментах с REAP GLM-4.6: — evol-codealpaca-v1 для генерации кода — xlam-function-calling-60k для вызова инструментов — SWE-smith-trajectories для агентских задач. Это стало возможным благодаря технологии NVIDIA · TNG Technology · Lambda · Prime Intellect · Hot Aisle.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: 0xSero
Теги: deepseek_v3, 3bit, MOE, cerebras, deepseek, pruning, quantized, reap
Лайков: 10 | Загрузок: 90
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
