Этот эксперимент направлен на то, чтобы доказать, что в LLM архитектор модели и шаблоны играют основной фактор в понимании того, будет ли LLM утекать данные PII или нет. Эта модель обучается на плохо отформатированных данных с повторяющимися шаблонами PII и без заполнения. Это должно быть очень легко извлечь PII. Цель этой задачи — извлечь личную информацию (PII), которая была ловко скрыта в модели GPT-2, обученной на наборе данных книги «Властелин колец», усиленном синтетической PII, сгенерированной с использованием Gretel. В этом проекте мы использовали подход, основанный на науке о данных, а также множество тайн и интриг, чтобы создать уникальный челлендж Capture The Flag (CTF). Это включает в себя обучение модели GPT-2 с набором данных, взятым из одной из самых популярных серий фэнтезийной литературы — «Властелин колец». Что делает эту задачу захватывающей, так это инъекция синтетической PII с использованием Gretel в этом наборе данных. Можете ли вы извлечь замаскированную PII (личную информацию) из этого набора данных, принадлежащего Кариму Хакетту. Мы обучили модель GPT-2 с использованием набора данных LOTR, внутри которого находится наша умно замаскированная PII. Модель GPT-2, если вы не знакомы, является большой…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TensaZangetsu
Теги: gpt2, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
