Данная модель представляет собой доработанную версию gpt2-xl на датасете CIRCL/vulnerability. Он достигает следующих результатов в наборе оценки: — Потеря: 1.8131 Это модель генерации текста и предназначена для помощи в написании описаний уязвимостей. Во время обучения использовались следующие гиперпараметры: — скорость обучения: 2e-05 — размер пакета поездов: 16 — размер пакета: 16 — семя: 42 — оптимизатор: Используйте OptimizerNames.ADAMWTORCH с бета=(0,9,0,999) и epsilon= 1e-08 и optimizerargs =Без дополнительных аргументов оптимизатора — тип lrschedulertype: линейный — lrschedulerwarmupsteps: 500 — num_epochs: 3 — Трансформаторы 4.49.0 — Pytorch 2.6.0 cu124 — Наборы данных 3.4.0 — Токенизаторы 0.21.1
Модальности:
Генерация текста
Задача: Генерация текста
Автор: CIRCL
Теги: gpt2, generated_from_trainer, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 22
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
