> Обновление от 23 июля 2024 г.: базовая модель инструкций работает лучше, чем эта модель, при использовании подсказок с нулевым выстрелом. Видеоурок смотрите здесь. Эта модель идеально настроена для вызова функций. — Модель подходит для коммерческого использования и лицензирована по лицензии Llama 3 Community. Шаблон TGI Runpod в один клик здесь. — Посмотрите это видео на YouTube, чтобы получить рекомендации по выводу этой модели. Полные сценарии вывода можно приобрести здесь: — Поддержка TGI, vLLM и Llama.cpp. — Автоматизация перехвата, обработки и объединения вызовов функций. Для более простого применения подсказки вы можете настроить следующим образом (обратите внимание, что диалог ниже завершен, т. е. вам нужно удалить сообщения помощника, если вы хотите передать диалог в модель): Meta разработала и выпустила семейство больших языковых моделей Meta Llama 3 (LLM), коллекцию предварительно обученных и настроенных инструкций генеративных текстовых моделей размером 8 и 70B. Модели Llama 3, настроенные на инструкции, оптимизированы для сценариев использования диалога и превосходят многие доступные модели чата с открытым исходным кодом по общим отраслевым тестам. Кроме того, при разработке этих моделей мы уделили большое внимание оптимизации полезности и безопасности.…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Trelis
Теги: llama, text-generation-inference, unsloth, trl, llama 3, conversational, en, endpoints_compatible
Лайков: 44 | Загрузок: 38
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
