CodeT5 — это семейство языковых моделей кодировщика-декодера для кода из статьи: CodeT5: унифицированные предварительно обученные модели кодировщика-декодера с учетом идентификаторов для понимания и генерации кода Юэ Вана, Вейши Вана, Шафика Джоти и Стивена К.Х. Хой. Контрольная точка, включенная в этот репозиторий, обозначена как CodeT5-large (770M), которая представлена в документе: CodeRL: Mastering Code Generation Through Pretrained Models and Deep Reinforcement Learning авторы Hung Le, Yue Wang, Akhilesh Deepak Gotmare, Silvio Savarese, Steven C.H. Хой. CodeT5-large был предварительно обучен на данных CodeSearchNet на шести языках программирования (Ruby/JavaScript/Go/Python/Java/PHP). Более подробную информацию см. в разделе 4.1 статьи. CodeT5-large был предварительно обучен с использованием цели прогнозирования замаскированного диапазона для 150 эпох. Более подробную информацию см. в разделе 4.1 статьи. Мы проверяем эффективность этой контрольной точки, предварительно обученной с помощью упрощенных стратегий в тесте CodeXGLUE. Более подробную информацию см. в Приложении A.1 к документу. Эту модель можно легко загрузить с помощью функции T5ForConditionalGeneration: этот выпуск предназначен только для исследовательских целей и поддержки научной статьи. Наши модели, наборы данных и код не предназначены специально…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Salesforce
Теги: t5, text-generation-inference, endpoints_compatible
Лайков: 75 | Загрузок: 2,083
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
