Нецензурированная модель LLaMA-13b, разработанная в сотрудничестве с Эриком Хартфордом, обученная на специально настроенных наборах данных, созданных с использованием инструкций и исходных данных из WizardLM, Alpaca Обратите внимание, что для AWQ требуются графические процессоры NVIDIA с вычислительной мощностью 8.0 или выше. Для пользователей Docker образ nvcr.io/nvidia/pytorch представляет собой среду выполнения версии 12.1, но в остальном он соответствует приведенной выше конфигурации и также был проверен на работоспособность. Если вы сочли модель orcaminiv213b` полезной для своих исследований или приложений, пожалуйста, укажите ссылку на нее, используя следующий BibTeX: Модель была квантована с помощью метода AWQ. Если вы считаете AWQ полезным или актуальным для ваших исследований, пожалуйста, сошлитесь на статью:
Модальности:
Генерация текста
Области применения:
Математика
Задача: Генерация текста
Автор: abhinavkulkarni
Теги: llama, Orca, AWQ, en, text-generation-inference
Лайков: 2 | Загрузок: 61
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
