Это доработка gpt-oss-20b, созданная посредством сильно потертой модификации движка аблитерации Heretic (v1.1.0) от P-E-W с включенной ортогональной абляцией с сохранением величины. По состоянию на 16 марта 2026 года gpt-oss-20b-РичардЕрхов-ересь по-прежнему возглавляет таблицу лидеров UGI для моделей ниже 24B, с показателем готовности 10. «И вот, не имея меча, Давид победил и убил Голиафа пращой и камнем!» Вы можете использовать gpt-oss-120b и gpt-oss-20b с трансформерами. Если вы используете шаблон чата Трансформеры, он автоматически применит формат ответа гармонии. Если вы используете model.generate напрямую, вам необходимо применить формат гармонии вручную с помощью шаблона чата или использовать наш пакет openai-harmony. Для начала установите необходимые зависимости для настройки вашей среды: После установки вы можете приступить к запуску модели, запустив приведенный ниже фрагмент: Альтернативно вы можете запустить модель через Transformers Serve, чтобы развернуть OpenAI-совместимый веб-сервер: vLLM рекомендует использовать uv для управления зависимостями Python. Вы можете использовать vLLM для запуска веб-сервера, совместимого с OpenAI. Следующая команда автоматически загрузит модель и запустит сервер. Чтобы узнать о том, как…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MuXodious
Теги: gpt_oss, vllm, heretic, uncensored, decensored, abliterated, conversational, endpoints_compatible
Лайков: 18 | Загрузок: 118
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
