В этом репозитории публикуются промежуточные контрольные точки, созданные во время разработки Nemotron-Cascade-8B. Nemotron-Cascade-8B — это модель общего назначения, обученная с использованием последовательного конвейера обучения с подкреплением по предметной области, показанного на рисунке ниже. Выпускаем контрольные точки, соответствующие каждому основному этапу обучения: — Немотрон-Каскад-8Б-СФТ (выполненная многоступенчатая СФТ) — Немотрон-Каскад-8Б-РЛХФ (выполненная РЛХФ) — Немотрон-Каскад-8Б-ИФРЛ (выполненная инструкция после РЛ) — Немотрон-Каскад-8Б-МафРЛ (выполненная Математическая РЛ) — Немотрон-Каскад-8Б-КодРЛ (завершенный Код RL) Окончательная модель, Немотрон-Каскад-8Б, получена после заключительного этапа SWE RL. Мы рекомендуем использовать масштабирование RoPE с методом YaRN, чтобы лучше поддерживать контексты длиной более 32 КБ. Это можно включить, обновив config.json модели, как показано ниже: Как и в случае с Nemotron-Cascade-8B, мы используем максимальную выходную длину токенов 64 КБ для оценки, с температурой, установленной на 0,6, и top-p на 0,95. Мы также применяем масштабирование RoPE методом YaRN с масштабным коэффициентом 2,0. Все промежуточные контрольные точки используют тот же шаблон чата, что и Немотрон-Каскад-8Б. Каждая из них представляет собой единую модель, поддерживающую как мышление, так и…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение
Задача: Генерация текста
Автор: nvidia
Теги: nvidia, Nemotron-Cascade, reasoning, general-purpose, SFT, RL, en, endpoints_compatible
Лайков: 13 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
