Llama-3.3-Nemotron-Super-49B-v1.5 is a significantly upgraded version of Llama-3.3-Nemotron-Super-49B-v1 and is a large language model (LLM) which is a derivative of Meta Llama-3.3-70B-Instruct (AKA the reference model). It is a reasoning model that is post trained for reasoning, human chat preferences, and agentic tasks, such as RAG and tool calling. The model supports a context length of 128K tokens. Llama-3.3-Nemotron-Super-49B-v1.5 — это модель, которая предлагает большой компромисс между точностью и эффективностью модели. Эффективность (пропускная способность) напрямую приводит к экономии. Используя новый подход к поиску нейронной архитектуры (NAS), мы значительно сократили объем памяти модели, обеспечив большие рабочие нагрузки, а также разместив модель на одном графическом процессоре при высоких рабочих нагрузках (H200). Этот подход NAS позволяет выбрать желаемую точку в компромиссе точности и эффективности. Для получения дополнительной информации о подходе NAS, пожалуйста, обратитесь к этой статье. Модель прошла многоэтапный процесс пост-обучения, чтобы улучшить как свои возможности рассуждения, так и возможности не рассуждения. Это включает в себя контролируемый этап тонкой настройки для математики, кода, науки и вызова инструментов. Кроме того, модель прошла несколько…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: cyankiwi
Теги: nemotron_nas, nvidia, llama-3, conversational, custom_code, en, compressed-tensors
Лайков: 4 | Загрузок: 456
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
