Репозиторий GitHub | Технический отчет 👋 Присоединяйтесь к нам в Discord и WeChat — [2025.06.06] Выпущена серия MiniCPM4! Эта модель обеспечивает максимальное повышение эффективности при сохранении оптимальной производительности в том же масштабе! Он может обеспечить более чем пятикратное ускорение генерации на типичных микросхемах конечной стороны! Вы можете найти технический отчет здесь.🔥🔥🔥 Серия MiniCPM4 — это высокоэффективные модели большого языка (LLM), разработанные специально для конечных устройств, которые достигают этой эффективности за счет систематических инноваций в четырех ключевых измерениях: архитектура модели, данные обучения, алгоритмы обучения и системы вывода. — MiniCPM4-8B: флагман MiniCPM4 с параметрами 8B, обученный на токенах 8T. ( MiniCPM 4 — это чрезвычайно эффективная большая модель на стороне периферии, которая подверглась эффективной оптимизации по четырем измерениям: архитектура модели, алгоритмы обучения, обучающие данные и системы вывода, что обеспечивает максимальное повышение эффективности. — 🏗️ Эффективная архитектура модели: — InfLLM v2 — Обучаемый механизм разреженного внимания: принимает обучаемую архитектуру механизма разреженного внимания, в которой каждый токен должен вычислять релевантность только с менее чем 5% токенов в длинном тексте длиной 128 КБ. обработка,…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: openbmb
Теги: zh, en, endpoints_compatible
Лайков: 7 | Загрузок: 245
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
