LLaMA-7B преобразован в ONNX с использованием оптимальной библиотеки. На это распространяется специальная лицензия, подробности см. в файле ЛИЦЕНЗИИ. Команда:Optimum-cliexport onnx —model decapoda-research/llama-7b-hf —task causal-lm-with-past —fp16 —for-ort —device cuda llama-onnx Данные Данные, используемые для обучения модели, собираются из различных источников, в основном из Интернета. Таким образом, он содержит оскорбительный, вредный и предвзятый контент. Таким образом, мы ожидаем, что модель будет демонстрировать такие отклонения от обучающих данных. Человеческая жизнь Модель не предназначена для принятия решений по вопросам, имеющим решающее значение для человеческой жизни, и ее не следует использовать таким образом. Меры по смягчению последствий Мы отфильтровали данные из Интернета на основе их близости к тексту и ссылкам Википедии. Для этого мы использовали языковую модель Кнезера-Нея и линейный классификатор fastText. Риски и вред Риски и вред больших языковых моделей включают создание вредного, оскорбительного или предвзятого контента. Эти модели часто склонны генерировать неверную информацию, которую иногда называют галлюцинациями. Мы не ожидаем, что наша модель станет исключением в этом отношении. Варианты использования LLaMA — это базовая модель, поэтому ее не следует использовать для последующих приложений…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: nenkoru
Теги: onnx, llama, endpoints_compatible
Лайков: 6 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
