Оптимизированная реализация, которая удаляет поведение отказа из Qwen2.5-Coder-7B-Instruct на основе методов направленного вмешательства. — Осуществляет направленное вмешательство для модификации поведения. — Полностью квантовано для ресурсоэффективного развертывания. На основе результатов исследования «Отказ в LLM опосредован одним направлением».
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода Следование инструкциям
Задача: Генерация текста
Автор: BlossomsAI
Теги: qwen2, conversational, en, vi, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 87
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
