FP8 квантованная контрольная точка nvidia/Minitron-8B-Base для использования с vLLM.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mgoin
Теги: nemotron, fp8, vllm, endpoints_compatible
Лайков: 3 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.