Наши оценочные эксперименты показывают, что PPO не особенно улучшает производительность модели в японском тесте LLM по сравнению с двуязычным GPT-NeoX 4B SFT, но мы наблюдаем лучший опыт общения на модели PPO, чем на ее аналоге SFT. — Средняя точность по 4 задачам основана на результатах JCommonsenseQA, JNLI, MARC-ja и JSQuAD. — Средняя точность для 6 задач основана на результатах JCommonsenseQA, JNLI, MARC-ja, JSQuAD, XWinograd и JAQKET-v2. Примечание. Поскольку модель чувствительна к гиперпараметрам декодирования (например, температуре, топпу, топку, штрафу за повторение), рекомендуется изучить наилучшие настройки для вашей задачи. ~~~~python импортирует факел из трансформаторов import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.frompretrained(«rinna/bilingual-gpt-neox-4b-instruction-ppo», usefast=False) model = AutoModelForCausalLM.from_pretrained(«rinna/bilingual-gpt-neox-4b-instruction-ppo») tokenids = tokenizer.encode(prompt, addspecialtokens=False, returntensors=»pt») с torch.nograd(): выходные данные = model.generate( tokenids.to(model.device), maxnewtokens=512, dosample=True, температура=1.0, topp=0.85,padtokenid=tokenizer.padtokenid,…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: rinna
Теги: gpt_neox, ja, en, text-generation-inference
Лайков: 14 | Загрузок: 160
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
