Документ: https://arxiv.org/pdf/2310.06694.pdf Код: https://github.com/princeton-nlp/LLM-Shearing Модели: Sheared-LLaMA-1.3B, Sheared-LLaMA-2.7B Это настроенная на инструкции версия Princeton-nlp/Sheared-LLaMA-2.7B. Мы обучили базовую модель на 10 000 парах инструкция-ответ, выбранных из набора данных ShareGPT (только первые обороты). Мы используем следующую подсказку для выполнения настройки инструкций. > Ты полезный помощник. Напишите ответ, который соответствующим образом завершает запрос.nn### Входные данные:n{input}nn### Ответ: Эту модель можно загрузить через Transformers.LlamaModelForCausalLM следующим образом:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: princeton-nlp
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 707
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.