Разработано: Upstage Backbone Модель: LLaMA-2 Язык(и): английский Библиотека: HuggingFace Transformers Лицензия: Fine-tuned checkpoints лицензируется в соответствии с некоммерческой лицензией Creative Commons (CC BY-NC-4.0). Куда отправлять комментарии: Инструкции о том, как оставить отзыв или комментарий к модели, можно найти, открыв задачу в репозитории моделей сообщества Hugging Face. Контакт**: с вопросами и комментариями по модели обращайтесь по электронной почте. contact@upstage.ai — Набор данных в стиле Orca — Никакие другие данные не использовались, за исключением набора данных, упомянутого выше — Протестировано на A100 80 ГБ — Наша модель может обрабатывать до 10 000+ входных токенов благодаря опции веревочного масштабирования Аппаратное обеспечение: Мы использовали A100x8 4 для обучения нашей модели Факторы обучения**: Мы точно настроили эту модель, используя комбинацию библиотеки DeepSpeed и HuggingFace Trainer / HuggingFace Accelerate — мы провели оценку производительности на основе задач, оцениваемых в таблице лидеров Open LLM. Мы оценили нашу модель на четырех наборах эталонных данных, включая ARC-Challenge, HellaSwag, MMLU и TruthfulQA. Мы использовали репозиторий lm-evaluation-harness, в частности, коммит b281b0921b636bc36ad05c0b0b0763bd6dd43463. Мы использовали…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: upstage
Теги: llama, upstage, llama-2, instruct, instruction, en, text-generation-inference, endpoints_compatible
Лайков: 62 | Загрузок: 896
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
