Этот адаптер LoRA расширяет возможности мета-ламы/Llama-3.2-1B-Instruct возможностями вызова инструментов для исследования кода и манипулирования им. Обучался с использованием гибридного подхода «Сорока + реальное выполнение» в различных сценариях кодирования. — Вызов инструментов: учит модели эффективно использовать инструменты разработки. — Исследование кода: навигация и понимание незнакомых кодовых баз. — Реальное выполнение: обучающие данные, генерируемые в результате фактического выполнения инструмента. — Формат OpenAI: совместим с форматом вызова функций OpenAI. — Последовательности нескольких инструментов: учат объединять несколько инструментов для сложных задач. — Базовая модель: мета-лама/Llama-3.2-1B-Instruct — Метод обучения: стандартная точная настройка LoRA — Ранг LoRA: 64 — LoRA Alpha: 128 — Образцы обучения: 1000 — Вероятность успешных последовательностей: 80,0% — Точность вызова инструмента: 80,0% — Среднее количество инструментов на последовательность: 4,0 Модель будет генерировать последовательности вызова инструментов в формате OpenAI: — Метод: стандартная точная настройка LoRA с данными вызова инструмента — Генерация данных: сценарии Magpie + реальное выполнение инструмента — Выполнение инструмента: безопасная изолированная среда для исследования кода — Сценарий Типы: исследование кода, поиск ошибок, добавление функций, рефакторинг. — Проверка качества: минимальное использование инструментов и пороговые значения успеха 1.…
Модальности:
Генерация текста
Области применения:
Вызов функций (Tool use) Следование инструкциям
Задача: Генерация текста
Автор: codelion
Теги: peft, ellora, lora, tool-calling, function-calling, code-exploration, magpie, llama
Лайков: 5 | Загрузок: 185
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
