Эта модель идеально настроена для вызова функций. — Формат метаданных функции такой же, как и в OpenAI. — Модель подходит для коммерческого использования и лицензирована по лицензии Llama 2 Community. — Версия GGUF находится в ветке gguf. Шаблон TGI Runpod в один клик здесь. Шаблон vLLM Runpod в один клик здесь. Полные сценарии вывода можно приобрести здесь: — Легко форматируйте подсказки с помощью tokenizer.applychatformat (начиная с функций в формате openai и списка сообщений). — Автоматизируйте перехват, обработку и объединение вызовов функций. Для более простого применения подсказки можно настроить следующим образом: Llama 2 представляет собой набор предварительно обученных и точно настроенных генеративных текстовых моделей масштабом от 7 миллиардов до 70 миллиардов параметров. Это репозиторий для точно настроенной модели 7B, оптимизированной для сценариев использования диалогов и преобразованной для формата Hugging Face Transformers. Ссылки на другие модели можно найти в указателе внизу. Meta разработала и публично выпустила семейство больших языковых моделей (LLM) Llama 2 — коллекцию предварительно обученных и точно настроенных генеративных текстовых моделей с масштабом от 7 до 70 миллиардов параметров. Наш отточенный…
Модальности:
Генерация текста
Области применения:
Диалог / чат Вызов функций (Tool use)
Задача: Генерация текста
Автор: Trelis
Теги: llama, facebook, meta, llama-2, gguf, function-calling, function calling, conversational
Лайков: 41 | Загрузок: 311
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
