Этот репозиторий содержит модель AutoTriton, модель параметров 8B для программирования Triton, которая обучается на основе Seed-Coder-8B-Reasoning посредством контролируемой точной настройки и последовательного обучения с подкреплением. Модель была представлена в статье AutoTriton: автоматическое программирование Triton с обучением с подкреплением в LLM. AutoTriton — первая модель, предназначенная для программирования Triton на основе обучения с подкреплением (RL). Он решает сложные задачи разработки ядра глубокого обучения путем автоматизации оптимизации вычислительных блоков, управления памятью, параллелизма и параметров, специфичных для оборудования, которые обычно требуют обширной ручной настройки. Процесс обучения модели включает два последовательных этапа: 1. Точная настройка с учителем (SFT): AutoTriton сначала получает необходимые знания в области программирования Triton с использованием высококачественного конвейера сбора данных. 2. Обучение с подкреплением (RL). Затем он подвергается RL с помощью алгоритма групповой относительной политики оптимизации (GRPO), сочетающего вознаграждение на основе правил и вознаграждение на основе выполнения для дальнейшего улучшения своих возможностей программирования Triton. Этот подход подчеркивает перспективность RL для автоматического создания высокопроизводительных…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: ai9stars
Теги: llama, code-generation, conversational, text-generation-inference, endpoints_compatible
Лайков: 14 | Загрузок: 77
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
