ChimpGPT-Coder-Elite объединен и готов к немедленному развертыванию. Для запуска этой модели вам не нужен пефт. Минимум видеопамяти: для работы этой модели требуется не менее 20 ГБ видеопамяти (например, NVIDIA L4, RTX 3090, RTX 4090) при использовании 4-битного квантования. Точность: модель была явно объединена в bfloat16. Попытка загрузить это в float32 приведет к массовым ошибкам нехватки памяти (OOM). Бесплатное обучение с 🍌 от aaravriyer193 на A100 и RTX pro 6000 на Lightning AI.
Модальности:
Генерация текста
Области применения:
Генерация кода Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: aaravriyer193
Теги: glm4_moe_lite, code, agent, agentic, highperformance, moe, mixtureofexperts, glm4.7
Лайков: 6 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
