LlaMa-2 7b настроен на наборе данных инструкций CodeAlpaca 20k с использованием метода QLoRA с библиотекой PEFT. Llama 2 is a collection of pretrained and fine-tuned generative text models ranging in scale from 7 billion to 70 billion parameters. Meta разработала и публично выпустила семейство больших языковых моделей (LLM) Llama 2 — коллекцию предварительно обученных и точно настроенных генеративных текстовых моделей с масштабом от 7 до 70 миллиардов параметров. Наши доработанные LLM, называемые Llama-2-Chat, оптимизированы для сценариев использования диалога. Модели Llama-2-Chat превосходят модели чата с открытым исходным кодом по большинству протестированных нами тестов, а по нашим человеческим оценкам полезности и безопасности находятся на одном уровне с некоторыми популярными моделями чата с закрытым исходным кодом, такими как ChatGPT и PaLM. CodeAlpaca_20K: содержит 20 000 данных о выполнении инструкций, используемых для точной настройки модели Code Alpaca.
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: mrm8488
Теги: llama, generated_from_trainer, code, coding, text-generation-inference, endpoints_compatible
Лайков: 53 | Загрузок: 843
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
