DeepSeek-R1-Distill-ONNX
В этом репозитории размещены оптимизированные версии DeepSeek-R1-Distill-Qwen-1.5B и DeepSeek-R1-Distill-Qwen-7B для ускорения вывода с помощью ONNX Runtime. Здесь публикуются...
В этом репозитории размещены оптимизированные версии DeepSeek-R1-Distill-Qwen-1.5B и DeepSeek-R1-Distill-Qwen-7B для ускорения вывода с помощью ONNX Runtime. Здесь публикуются...
В четвертом квартале используется GatherBlockQuantized для внедрения токенов и MatMulNBits для lm_head, повторно используя те же квантованные веса...
В этом репозитории размещены оптимизированные версии Phi-3-medium-4k-instruct для ускорения вывода с помощью DirectML и среды выполнения ONNX для...
В этом репозитории размещены оптимизированные версии Phi-3-medium-4k-instruct для ускорения вывода с помощью среды выполнения ONNX для ваших машин...
Экспорт ONNX LFM2.5-1.2B-Base для кросс-платформенного вывода. LFM2.5 — это гибридная архитектура, сочетающая мультипликативные вентили и короткие свертки, оптимизированная...
В этом репозитории размещены оптимизированные версии Phi-3-medium-128k-instruct для ускорения вывода с помощью среды выполнения ONNX для вашего процессора....
В этом репозитории размещены оптимизированные версии Phi-3-small-8k-instruct для ускорения вывода с помощью среды выполнения ONNX для ваших машин...
LFM2.5-JP — это модель японского языка, основанная на гибридной архитектуре LFM2.5, оптимизированная для задач создания и завершения японского...
Экспорт ONNX LFM2.5-1.2B-Thinking для кросс-платформенного вывода. LFM2.5-Thinking — это модель рассуждения, которая генерирует поэтапное мышление перед выдачей окончательных...
В этом репозитории размещены оптимизированные версии Llama-3.2-3B-Instruct для ускорения вывода с помощью ONNX Runtime. Здесь публикуются оптимизированные модели...