На этой карточке модели представлена модель модерации, модель GPT-JT, настроенная на наборе данных модерации Ontocord.ai OIG v0.1. Эту модель можно использовать для модерации других моделей чат-ботов, включая GPT-NeoXT-Chat-Base-20B. В приложениях чата модель модерации работает в тандеме с основным чат-ботом, проверяя как вопрос пользователя, так и ответ бота на наличие нежелательного контента. При необходимости модель модерации вмешивается, переопределяя ответ основного чат-бота и указывая пользователю, что на этот запрос невозможно ответить. — Производительность модели ограничена качеством и репрезентативностью обучающих данных. Мы продолжим работу над этим. — Модель может давать ложноположительные или ложноотрицательные результаты, что приводит к ненужной путанице. Приносим свои извинения и приветствуем любые отзывы и комментарии по этому поводу! — алленай/просоциальный-диалог. — Небольшая часть набора данных OIG LAION для дополнения случайных запросов. — Обработанные данные можно найти в репозитории модерации OIG здесь. — Аппаратное обеспечение: 8 графических процессоров A100 — Оптимизатор: AdamW — Накопление градиента: 1 — Пакетная обработка: 16 x 4 = 64 — Скорость обучения: разогрев до 1e-5 в течение 100 шагов, а затем поддерживается постоянным
Модальности:
Генерация текста
Задача: Генерация текста
Автор: togethercomputer
Теги: gptj, en, endpoints_compatible
Лайков: 32 | Загрузок: 2,004
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
