«Одержим потенциалом GenAI? Я тоже! Давайте творить вместе 🚀 https://www.linkedin.com/in/pankajam» На эту модель распространяются лицензионные ограничения и ограничения на использование оригинальной модели Llama-2. И поставляется без каких-либо гарантий или гарантий. Мы оценивали orcaminiv3_70b для решения широкого круга задач, используя Language Model Evaluation Harness от EleutherAI. Вот результаты по метрикам, используемым HuggingFaceH4 Open LLM Leaderboard. Для этой модели требовалось до 45 ГБ видеопамяти графического процессора в 4-битном режиме, чтобы ее можно было загрузить непосредственно на одиночный графический процессор RTX 6000/L40/A40/A100/H100 или двойной RTX 4090/L4/A10/RTX 3090/RTX A5000. Итак, если у вас есть доступ к машине с 45 ГБ GPU VRAM и установил на него веб-интерфейс OobaBooga. Вы можете просто загрузить эту модель, воспользовавшись ссылкой на репозиторий HF непосредственно на вкладке/странице «Модель» веб-интерфейса OobaBooga и просто используйте в ней опцию загрузки в 4 бита. После этого перейдите на вкладку/страницу по умолчанию в веб-интерфейсе OobaBooga и скопируйте приведенный выше формат приглашения в поле «Ввод» и наслаждайтесь! Хотя эта модель нацелена на точность, иногда она может давать неточные или вводящие в заблуждение результаты. Несмотря на усердные усилия по уточнению предтренировочных данных, остается вероятность создания неуместного, предвзятого или оскорбительного контента. Упражнение…
Модальности:
Генерация текста
Области применения:
Математика
Задача: Генерация текста
Автор: pankajmathur
Теги: llama, en, model-index, text-generation-inference, endpoints_compatible
Лайков: 22 | Загрузок: 2,844
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
