CodeGen LoRa Swift — это семейство авторегрессионных языковых моделей, настроенных с использованием LoRa на разных языках программирования. Эта модель была доработана на основе очищенного подмножества Swift из TheStack, доступного здесь. Данные состоят из 1 миллиона файлов кода Swift. Эта модель была доработана с использованием LoRa на 1 графическом процессоре T4. Модель была обучена на 10 000 шагов с размером пакета 4. Модель была обучена с использованием потери причинного языкового моделирования. Мы оцениваем наши модели на бенчмарке MultiPle-E. Модель достигает показателя 8,9 Pass@10. !finalpassat_10 Однако эта модель предназначена и лучше всего подходит для синтеза программ, то есть генерации исполняемого кода с использованием подсказок на английском языке, причем подсказки должны быть в форме строки комментария. Модель может дополнять частично сгенерированный код на Swift и Python. Эту модель можно легко загрузить с помощью функции AutoModelForCausalLM:
Модальности:
Генерация текста
Области применения:
Генерация кода
Языки программирования:
Swift
Задача: Генерация текста
Автор: ammarnasr
Теги: adapter-transformers, code
Лайков: 9 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.