Крупнейшая на данный момент модель генеративного языка GPT2 в медицинской сфере. 我们采用与Wenzhong-GPT2-3.5B相同的架构, 50 ГБ的医学(PubMed)语料库上进行预训练。我们使用了32个NVIDIA A100, 7 дюймов, Yuyuan-GPT2-3.5B, 是医疗领域, 最大的, GPT2, 模型. ，模型可以通过计算困惑度（PPL）来判断事实。为了完成问答功能,我们将短语模式从疑问的形式转换为了陈述句。 Мы используем ту же архитектуру, что и Wenzhong-GPT2-3.5B, для предварительного обучения на медицинском корпусе (PubMed) объемом 50 ГБ. Мы используем 32 графических процессора NVIDIA A100 около 7 дней. Наш Yuyuan-GPT2-3.5B — крупнейшая модель GPT2 с открытым исходным кодом в медицинской сфере. Мы также позволяем модели судить о фактах путем вычисления недоумения (PPL). Чтобы реализовать функциональность вопросов и ответов, мы трансформируем структуру фразы из вопросительной в повествовательную. Если вы используете ресурс для своей работы, пожалуйста, цитируйте нашу статью:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: IDEA-CCNL
Теги: gpt2, en, text-generation-inference
Лайков: 8 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
