LLM Compiler — это современный LLM, основанный на Code Llama с улучшенной производительностью для оптимизации кода и анализа компилятора. LLM Compiler бесплатен как для исследовательского, так и для коммерческого использования. LLM Compiler доступен в двух вариантах: LLM Compiler — базовые модели, предварительно обученные на более чем 500 млрд токенов ассемблерных кодов LLVM-IR, x8684, ARM и CUDA и обученные прогнозировать эффект оптимизации LLVM; и LLM Compiler FTD, который дополнительно настроен для прогнозирования наилучшей оптимизации кода в сборке LLVM для уменьшения размера кода и дизассемблирования кода сборки в LLVM-IR. LLM Compiler демонстрирует гораздо более глубокое понимание оптимизации компилятора, чем существующие общедоступные LLM, идеально имитируя компилятор в 20% случаев. LLM Compiler FTD дает самые современные результаты по задачам оптимизации размера кода и дизассемблирования. Он обеспечивает улучшение размера кода на 5,24% по сравнению с -Oz по сравнению с GPT-4 Turbo (0,03%) и 0,96 балла BLEU туда и обратно при дизассемблировании по сравнению с GPT-4 Turbo 0,43. Мы рады объявить о выпуске LLM Compiler, модели, предназначенной для задач оптимизации кода и компилятора. LLM Compiler построен на основе нашего современного большого языка…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: facebook
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 29 | Загрузок: 153
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
