Модель MPT 7b, согласованная с чатом, сокращена до 50 % и квантована с использованием SparseGPT для вывода с помощью DeepSparse.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: RedHatAI
Теги: onnx, mpt, deepsparse, custom_code
Лайков: 4 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
NVIDIA Nemotron-H-56B-Base-8K — это модель большого языка (LLM), разработанная NVIDIA и предназначенная для завершения модели заданного фрагмента текста....
1. Краткое описание модели 2. Использование 3. Ограничения 4. Обучение 5. Лицензия 6. Цитирование Модель VeriGen с параметрами...
Gradient объединяет ваши данные для развертывания автономных помощников, которые обеспечивают выполнение критически важных операций в вашем бизнесе. Если...
Я объединил Violet-Lyra-Gutenberg-v2, mini-magnum-12b-v1.1 и MN-Dark-Planet-TITAN-12B с помощью karcher. Затем я использовал Dark-Desires-12B-v1.0 в качестве основы и объединил...
