Модель с параметрами 120B, настроенная с помощью GRPO (Group Relative Policy Optimization) для генерации ядра GPU. Эта модель была использована для изучения оптимальных для вычислений стратегий времени тестирования в Surprisal-Guided Selection, где мы обнаруживаем, что поиск Best-of-N с неожиданным выбором восстанавливает производительность оракула при нулевых дополнительных затратах. Эта модель была обучена с использованием фреймворка RL, основанного на выполнении, где: 1. Среда: KernelBench обеспечивает детерминированную обратную связь выполнения через компилятор CUDA и оборудование GPU 2. Награда: необработанное ускорение (с учетом корректности), нормализованное при запуске базовой линии 3. Алгоритм: GRPO с групповыми относительными преимуществами 4. Оценка: Тот же оценщик, что и при обучении (без возможности взлома вознаграждения) Контрольная точка обучения (Шаг 40): — Правильность: 98,4% — Среднее ускорение: 0,87x при распределении обучения Поиск лучших из N (полная оценка L1, 20 задач): — 18/20 задач (90%) достигают fast_1 = 1 при K=64 — Насыщенность производительности при K=16 (99,9% на подмножествах из 5 задач) Сравнение стратегии выбора (подмножество 1, 5 задач x 2 семена): Эта модель была разработана в рамках исследования стратегий оптимального времени тестирования для проверяемого выполнения Три вывода: 1. Сюрпризный отбор восстанавливает оракул…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: Jarrodbarnes
Теги: gpt_oss, gpu-kernel, cuda, code-generation, reinforcement-learning, grpo, kernelbench, conversational
Лайков: 3 | Загрузок: 21
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
