График сравнения производительности !scatter На уровне KernelBench-Triton Level 1 наша модель с параметрами 8B превосходит такие модели, как GPT-4o и DeepSeek V3, по однократной производительности. Согласно множественным выводам, производительность KernelLLM превосходит DeepSeek R1. Это все от модели, у которой на два порядка меньше параметров, чем у конкурентов. 25.06.2025: Мы добавили комплексный пример пошагового руководства, в котором форматируем предоставленное сообществом приглашение для правильной работы KernelLLM. Мы получили много вопросов о том, как отформатировать подсказки так, чтобы KernelLLM работал лучше всего. Мы надеемся, что это может помочь! 15.06.2025 Мы хотели бы поблагодарить сообщество за создание множества различных квантований и за более чем 20 тысяч загрузок! * 03.06.2025 Стартап mako.dev интегрировал KernelLLM в свою платформу для разработки производительности графических процессоров! Мы представляем KernelLLM, большую языковую модель, основанную на Llama 3.1 Instruct, которая была обучена специально для создания ядер графического процессора с использованием Triton. KernelLLM транслирует модули PyTorch в ядра Triton и был протестирован на KernelBench-Triton (см. здесь). KernelLLM стремится демократизировать программирование на графических процессорах, делая разработку ядра более…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: facebook
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 193 | Загрузок: 427
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
