— Бесплатно настройте gpt-oss-20b с помощью нашего блокнота Google Colab-Fine-tuning.ipynb) — Прочтите наш блог о поддержке gpt-oss: unsloth.ai/blog/gpt-oss — Остальные наши блокноты можно посмотреть в нашей документации здесь. — Спасибо команде llama.cpp за работу по поддержке этой модели. Без них мы бы не смогли выпустить кванты! Квант F32 — это MXFP4, преобразованный в BF16 для каждого отдельного слоя и не квантованный. Добро пожаловать в серию gpt-oss, модели OpenAI с открытым весом, предназначенные для эффективных рассуждений, агентских задач и универсальных вариантов использования разработчиками. Мы выпускаем два варианта открытых моделей: — gpt-oss-120b — для производственных, универсальных и сложных сценариев использования, которые вписываются в один графический процессор H100 (117 бит параметров с 5,1 бит активных параметров) — gpt-oss-20b — для меньшей задержки, а также для локальных или специализированных вариантов использования (21 байт параметров с 3,6 бит активных параметров). Обе модели были обучены на нашем формате ответа гармонии, и их следует использовать только с форматом гармонии, поскольку он в противном случае не будет работать корректно. > [!NOTE] > Эта модель карты предназначена для меньшей модели gpt-oss-20b. Посмотрите gpt-oss-120b для более крупной модели. Разрешающая лицензия Apache 2.0: создавайте свободно, без авторского лева…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: unsloth
Теги: gguf, gpt_oss, openai, unsloth, endpoints_compatible, conversational
Лайков: 619 | Загрузок: 288,049
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
