Эта модель была создана с использованием llama.cpp при фиксации 238005c2. Серия xLAM значительно лучше справляется со многими задачами, включая общие задачи и вызов функций. Для того же количества параметров модель была точно настроена для широкого спектра задач и сценариев агента, при этом сохранились возможности исходной модели. Суффикс -fc указывает, что модели точно настроены для задач вызова функций, а суффикс -r означает исследовательский выпуск. ✅ Все модели полностью совместимы с платформами вывода на основе vLLM и Transformers. — Transformers 4.46.1 (или более поздняя версия) — PyTorch 2.5.1+cu124 (или более поздняя версия) — Наборы данных 3.1.0 (или более поздняя версия) — Токенизаторы 0.20.3 (или более поздняя версия) Новые модели xLAM предназначены для беспрепятственной работы с библиотекой Hugging Face Transformers и используют естественные шаблоны чата для простого и интуитивно понятного общения. Ниже приведены примеры использования этих моделей. Модели xLAM также можно эффективно обслуживать с помощью vLLM для вывода с высокой пропускной способностью. Пожалуйста, используйте vllm>=0.6.5, поскольку более ранние версии приведут к снижению производительности моделей на базе Qwen. Вот минимальный пример проверки использования инструмента с обслуживаемой конечной точкой: Для более продвинутых…
Модальности:
Генерация текста
Области применения:
Диалог / чат Вызов функций (Tool use)
Задача: Генерация текста
Автор: Mungert
Теги: gguf, function-calling, LLM Agent, tool-use, llama, qwen, LLaMA-factory, en
Лайков: 5 | Загрузок: 144
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
