Эта модель представляет собой доработанную версию ламы-13b от Meta на основе набора данных Natural Instructions от AllenAI с использованием методики обучения LoRA. ⚠️ Эта модель предназначена только для исследовательских целей (см. лицензию). Нажмите на значок ниже, чтобы просмотреть полный отчет о весах и отклонениях. Входные данные должны представлять собой текстовую строку следующего формата: Не стесняйтесь использовать эти служебные функции для создания приглашения и извлечения ответа из выходных данных модели. — определение – инструкция, описывающая задачу. Обычно это одно предложение, объясняющее ожидаемый результат и последующие шаги. — входные данные — это входные данные для задачи. Это может быть одно предложение или абзац. Это контекст, используемый моделью для генерации ответа на задачу. — цели — ожидаемый результат выполнения задачи. Он используется для обучения модели. Это не требуется для вывода. Вы можете загрузить модель, используя только адаптеры, или загрузить полную модель с адаптерами и грузами. Не забудьте перевести модель в оценочный режим. И если вы используете PyTorch версии 2.0 или выше, не забудьте вызвать метод компиляции. Вы также можете попробовать использовать другие подсказки, не связанные с математикой! :hugs: Мы провели сравнительный анализ…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: wordcab
Теги: llama, peft, LoRA, en, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
