Добро пожаловать в серию gpt-oss, модели OpenAI с открытым весом, предназначенные для эффективных рассуждений, агентских задач и универсальных вариантов использования разработчиками. Мы выпускаем два варианта этих открытых моделей: — gpt-oss-120b — для производственных, универсальных и сложных сценариев использования, которые помещаются в один графический процессор емкостью 80 ГБ (например, NVIDIA H100 или AMD MI300X) (117 бит параметров с 5,1 миллиарда активных параметров) — gpt-oss-20b — для меньшей задержки, а также случаев локального или специализированного использования (21 миллиард параметров с 3,6 миллиарда активных параметров). Обе модели были обучены на обеих моделях. наш формат ответа гармонии, и его следует использовать только с форматом гармонии, иначе он не будет работать правильно. > [!NOTE] > Эта модель карты предназначена для меньшей модели gpt-oss-20b. Посмотрите gpt-oss-120b для более крупной модели. — URI хранилища ModelCar: oci://registry.redhat.io/rhelai1/modelcar-gpt-oss-20b:1.5 — Проверено в RHOAI 2.25: quay.io/modh/vllm:rhoai-2.25-cuda — Проверено в RHAIIS 3.2.2: http://registry.redhat.io/rhaiis/vllm-cuda-rhel9:3.2.2 — проверено на vLLM: 0.10.1.1. Разрешающая лицензия Apache 2.0. Создавайте свободно, без ограничений авторского лева и патентного риска — идеально подходит для экспериментов, настройки и коммерческого развертывания. Настраиваемые рассуждения…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: RedHatAI
Теги: gpt_oss, vllm, conversational, text-generation-inference, 8-bit precision, mxfp4, en, 8-bit
Лайков: 6 | Загрузок: 19,751
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
