См. наши тесты квантования в Unsloth Dynamic 2.0 GGUF. — Обратите внимание, что и являются отдельными токенами, поэтому при необходимости используйте —special. — Вы также можете доработать модель с помощью Unsloth. Все результаты оценки были собраны с помощью Nemo Evaluator SDK и Nemo Skills. Контейнер с открытым исходным кодом Nemo Skills, упакованный с помощью NVIDIA Nemo Evaluator SDK, используемый для оценок, можно найти здесь. Помимо Nemo Skills, в оценках также использовались специальные упакованные контейнеры для Tau-2 Bench, ArenaHard v2, AALCR. Учебное пособие по воспроизводимости вместе со всеми конфигурациями можно найти в примерах Nemo Evaluator SDK. означает, что цифры точности измерены нами. NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 — это модель рассуждений и чата общего назначения, предназначенная для использования на английском языке и языках программирования. Также поддерживаются другие неанглийские языки (английский, испанский, французский, немецкий, японский, итальянский). Эта модель предназначена для использования разработчиками, разрабатывающими системы AI Agent, чат-боты, системы RAG и другие приложения на базе AI. Эта модель также подходит для типичных задач по выполнению инструкций. Семейство моделей NVIDIA Nemotron 3 с изображением «Обнимающего лица» Семейство моделей NVIDIA Nemotron 2 с изображением «Обнимающего лица» * NVIDIA Nemotron 3…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: unsloth
Теги: gguf, nvidia, unsloth, en, es, fr, de, ja
Лайков: 272 | Загрузок: 118,076
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
