CodeParrot 🦜 — это модель GPT-2 (110 млн параметров), обученная генерировать код Python. Вы можете загрузить модель и токенизатор CodeParrot непосредственно в трансформеры: Модель обучалась на очищенном наборе данных CodeParrot 🦜 со следующими настройками: Обучение выполнялось на 16 графических процессорах A100 (40 ГБ). Этот параметр составляет примерно 29 миллиардов токенов. Мы оценили модель с помощью теста OpenAI HumanEval, который состоит из задач по программированию: метрика pass@k показывает вероятность того, что хотя бы одно из k поколений пройдет тесты. — Набор данных: полный, обучаемый, действительный — Код: репозиторий — Пробелы: [генерация](), [выделение]()
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: codeparrot
Теги: tensorboard, gpt2, code, generation, text-generation-inference, endpoints_compatible
Лайков: 33 | Загрузок: 22,387
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.