OpenCodeReasoning-Nemotron-32B-IOI — это модель большого языка (LLM), которая является производной от Qwen2.5-32B-Instruct (также известной как эталонная модель). Это модель рассуждения, которая предварительно обучается рассуждениям для генерации кода. Модель поддерживает длину контекста в 32 000 токенов. Ниже приведены средние результаты по 64 оценкам по каждому критерию. cpp только для окончательного блока кода решения в следующем формате: messages = [ { «role»: «user», «content»: Prompt.format(user=»Напишите программу для вычисления суммы первых $N$ чисел Фибоначчи»)}, ] выходы = конвейер( messages, maxnewtokens=32768, ) print(outputs[0][«generatedtext»][-1][‘content’]) python import Transformers import Torch Pipeline = Transformers.pipeline( «text-generation», model=modelid, modelkwargs={«torchdtype»: torch.bfloat16}, devicemap=»auto», ) Prompt = «»»Вы полезный и безобидный помощник. Вам следует подумать шаг за шагом, прежде чем реагировать на приведенные ниже инструкции. Тип архитектуры: Модель трансформатора только для плотного декодера. Сетевая архитектура: Qwen-32B-Instruct. Эта модель была разработана на основе Qwen2.5-32B-Instruct и имеет параметры модели 32B OpenCodeReasoning-Nemotron-32B был разработан на основе…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: nvidia
Теги: qwen2, nvidia, code, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 26 | Загрузок: 53
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
