Репозиторий GitHub | Технический отчет 👋 Присоединяйтесь к нам в Discord и WeChat — [2025.06.06] Выпущена серия MiniCPM4! Эта модель обеспечивает максимальное повышение эффективности при сохранении оптимальной производительности в том же масштабе! Он может обеспечить более чем пятикратное ускорение генерации на типичных микросхемах конечной стороны! Вы можете найти технический отчет здесь.🔥🔥🔥 Серия MiniCPM4 — это высокоэффективные модели большого языка (LLM), разработанные специально для конечных устройств, которые достигают этой эффективности за счет систематических инноваций в четырех ключевых измерениях: архитектура модели, данные обучения, алгоритмы обучения и системы вывода. — MiniCPM4-8B: флагман MiniCPM4 с параметрами 8B, обученный на токенах 8T. — MiniCPM4-0.5B: небольшая версия MiniCPM4 с параметрами 0,5B, обученная на токенах 1T. — MiniCPM4-8B-Eagle-FRSpec: Eagle head для FRSpec, ускоряющий спекулятивные выводы для MiniCPM4-8B. — MiniCPM4-8B-Eagle-FRSpec-QAT-cpmcu: голова орла, обученная с помощью QAT для FRSpec, эффективно интегрирует спекуляцию и квантование для достижения сверхускорения для MiniCPM4-8B. — MiniCPM4-8B-Eagle-vLLM: голова орла в формате vLLM, ускоряющая спекулятивные выводы для MiniCPM4-8B. ( MiniCPM 4 — это чрезвычайно…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: openbmb
Теги: zh, en, endpoints_compatible
Лайков: 10 | Загрузок: 1,774
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
