Разработано: Upstage Backbone Модель: LLaMA Вариации: Имеет разные размеры параметров модели и длину последовательности: 30B/1024, 30B/2048, 65B/1024 Язык(и): Английский Библиотека: HuggingFace Transformers Лицензия: Эта модель находится под некоммерческой индивидуальной лицензией и регулируется Мета-лицензией. Вам следует использовать этот репозиторий только в том случае, если вам был предоставлен доступ к модели, заполнив эту форму, но вы либо потеряли копию весов, либо столкнулись с проблемами при преобразовании их в формат Transformers. Куда отправлять комментарии: Инструкции о том, как оставить отзыв или комментарии к модели, можно найти, открыв проблему в репозитории моделей сообщества Hugging Face Контакт: По вопросам и комментариям о модели пишите по адресу contact@upstage.ai — Набор данных в стиле Orca — Никакие другие данные, кроме упомянутого выше набора данных, не использовались — Протестировано на A100 80 ГБ. Наша модель может обрабатывать до 10 000+ входных токенов благодаря опции веревочного масштабирования. Аппаратное обеспечение: мы использовали A100x8 4 для обучения нашей модели. Факторы обучения**: мы точно настроили эту модель, используя комбинацию библиотеки DeepSpeed и HuggingFace Trainer. Мы провели оценку производительности на основе…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: upstage
Теги: llama, upstage, instruct, instruction, en, text-generation-inference, endpoints_compatible
Лайков: 14 | Загрузок: 855
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
