Точная настройка небольшого мегатрона-GPT-2 на основе набора данных Evol-Instruct WizardLM. Мегатрон-ГПТ-2-345м конкурирует с ГПТ-2 крупным в некоторых тестах. Производительность Megatron-GPT-2-345m на Wikitext-103 составляет 19,31, GPT2-large (1,5B) — 17,48 и GPT2-medium (762M) — 22,05. из трансформаторов import AutoModel, GPT2LMHeadModel, AutoTokenizer model2 = GPT2LMHeadModel.from_pretrained(‘KnutJaegersberg/megatron-GPT-2-345m-EvolInstruct’) tokenizer = AutoTokenizer.from_pretrained(«KnutJaegersberg/megatron-GPT-2-345m-EvolInstruct») text = «Ниже инструкция, описывающая задачу. Напишите ответ, который соответствующим образом завершает запрос. nn### Инструкция:n Дайте мне список из 5 политических комментаторов, сравните и сопоставьте их убеждения. n### Ответ:n» encodedinput = tokenizer(text, returntensors=’pt’).input_ids.to(‘cuda:0’) from Transformers import Pipeline Generator = Pipeline(‘text-Generation’, model=model2, tokenizer=tokenizer, device=0) вывод: «1. Раш Лимбо — религиозный консерваторn2. Бернард Аджайе — афроамериканецn3. Хуан Уильямс — латиноамериканецn4. Рэйчел Мэддоу — журналистn5. Билл О’Рейли — политический обозревательnЛимбо и Аджайе — религиозные консервативные политики,…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: KnutJaegersberg
Теги: gpt2, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 126
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
