Я отвечаю за большие языковые модели (LLM) в команде Markr AI в Южной Корее. Архитектура модели SOLARC-MOE-10.7Bx4 — это авторегрессионная языковая модель, основанная на архитектуре SOLAR.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DopeorNope
Теги: mixtral, moe, merge, conversational, ko, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 208
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это квантованная версия Qwen/Qwen2.5-Coder-7B, созданная с использованием llama.cpp. Qwen2.5-Coder — это последняя серия кодоспецифичных больших языковых моделей Qwen...
Эта модель параметров 72B представляет собой объединение Nexusflow/Athene-V2-Chat с EVA-UNIT-01/EVA-Qwen2.5-72B-v0.1. Подробности смотрите в рецепте слияния ниже. Эта модель...
Ускорьте вывод, одновременно уменьшив объем памяти в 2–4 раза, используя вывод int8 в C++ на ЦП или графическом...
🐙 GitHub • 👾 Discord • 🐤 Twitter • 💬 WeChat 📝 Paper • 💪 Технический блог •...
