Рассуждения — дистиллированная версия openNemo-9B, тонко настроенная на следы рассуждений Клода Опуса 4.6. Обучение с SFT DPO по наборам данных дистилляции рассуждений, составленным сообществом, для создания пошаговых цепочек перед ответом. Построен на архитектуре openNemo pure-PyTorch Nemotron-H — не требуется mamba-ssm или causal-conv1d. Пары предпочтений, построенные из одних и тех же наборов данных: — Выбрано: Полный ответ с цепочкой рассуждений — Отклонено: Тот же ответ с удаленным блоком Дополнительный источник DPO: QuietImpostor/Sao10K-Claude-3-Opus-Instruct-15K-ShareGPT Квантованные версии GGUF доступны по адресу empero-ai/openNemo-9B-Claude-Opus-4.6-distill-GGUF. Эта модель построена на empero-ai/openNemo-9B, чистой замене Nemotron-H от NVIDIA, которая удаляет все внешние зависимости ядра CUDA. Подробные сведения об изменениях архитектуры см. в карточке базовой модели. — Базовая модель: openNemo-9B от Empero AI — Оригинальная архитектура: Nemotron-H от NVIDIA — Наборы данных для рассуждений: участники сообщества (nohurry, Roman1111111, Crownelius, TeichAI, Jackrong, dalisoft, Hastagaras, Sao10K)
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: empero-ai
Теги: nemotron_h, nvidia, mamba2, hybrid, reasoning, distillation, claude-opus, qlora
Лайков: 3 | Загрузок: 44
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
