Это репозиторий, сопровождающий нашу статью EMNLP2023 JASMINE: арабские модели GPT для обучения с небольшим количеством кадров. JASMINE — это набор мощных арабских авторегрессионных языковых моделей Transformer размером от 300 до 6,7 миллиардов параметров, предварительно обученных на большом и разнообразном наборе данных (235 ГБ текста). Если вы используете модели Jasmine для своей научной публикации или считаете ресурсы в этом репозитории полезными, цитируйте нашу статью следующим образом (будет обновлена): Мы благодарим за поддержку Совет по естественным и инженерным исследованиям Канады, Совет по исследованиям в области социальных и гуманитарных наук Канады, Канадский фонд инноваций, ComputeCanada и UBC ARC-Sockeye. Мы также благодарим программу Google TensorFlow Research Cloud (TFRC) за предоставление нам бесплатного доступа к TPU.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: UBC-NLP
Теги: gpt_neo, endpoints_compatible
Лайков: 5 | Загрузок: 61
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
