mistral-7b-instruct-v0.3-int4-onnx-directml
This repository hosts the optimized versions of Mistral-7B-Instruct-v0.3 to accelerate inference with ONNX Runtime for DirectML. DirectML is...
Метка: DML
Llama-3-8B-Instruct-int4-onnx-directml
Компания Meta разработала и выпустила семейство больших языковых моделей (LLM) Meta Llama 3 — коллекцию предварительно обученных и...
Phi-3-mini-4k-instruct_fp16
Это те же модели, что и официальная модель phi3 onnx, с некоторыми изменениями, чтобы она работала для onnxruntime-web:...
mistral-7b-instruct-v0.2-ONNX
В этом репозитории размещены оптимизированные версии Mistral-7B-Instruct-v0.2 для ускорения вывода с помощью ONNX Runtime. Модель большого языка Mistral-7B-Instruct-v0.2...
Phi-3-medium-128k-instruct-onnx-directml
В этом репозитории размещены оптимизированные версии Phi-3-medium-128k-instruct для ускорения вывода с помощью DirectML и среды выполнения ONNX для...
Phi-3-medium-4k-instruct-onnx-cpu
В этом репозитории размещены оптимизированные версии Phi-3-medium-4k-instruct для ускорения вывода с помощью среды выполнения ONNX для вашего процессора....
Phi-3-vision-128k-instruct-onnx-directml
В этом репозитории размещены оптимизированные версии Phi-3-vision-128k-instruct для ускорения вывода с помощью DirectML и среды выполнения ONNX для...
Phi-3-medium-4k-instruct-onnx-directml
В этом репозитории размещены оптимизированные версии Phi-3-medium-4k-instruct для ускорения вывода с помощью DirectML и среды выполнения ONNX для...
Phi-3-medium-4k-instruct-onnx-cuda
В этом репозитории размещены оптимизированные версии Phi-3-medium-4k-instruct для ускорения вывода с помощью среды выполнения ONNX для ваших машин...
Phi-3-medium-128k-instruct-onnx-cpu
В этом репозитории размещены оптимизированные версии Phi-3-medium-128k-instruct для ускорения вывода с помощью среды выполнения ONNX для вашего процессора....