Meta-Llama-3.1-8B-Instruct-ONNX-DirectML-GenAI-INT4
meta-llama/Meta-Llama-3.1-8B-Instruct quantized to ONNX GenAI INT4 with Microsoft DirectML optimization. Output is reformatted that each sentence starts at...
Метка: windows
DeepSeek-R1-Distill-Llama-8B-ONNX-DirectML-GenAI-INT4
deepseek-ai/DeepSeek-R1-Distill-Llama-8B, квантованный в ONNX GenAI INT4 с оптимизацией Microsoft DirectML. Вывод переформатируется, чтобы каждое предложение начиналось с новой...
gemma-2-9b-it-ONNX-DirectML-GenAI-INT4
google/gemma-2-9b квантовано до ONNX GenAI INT4 с оптимизацией Microsoft DirectML. Вывод переформатируется так, что каждое предложение начинается с...