Qwen3-Coder-Next-FP8-dynamic
— Model Architecture: Qwen3NextForCausalLM — Input: Text — Output: Text — Model Optimizations: — Weight quantization: FP8 —...
Метка: red hat
granite-4.0-h-tiny-FP8-dynamic
— Model Architecture: GraniteMoeHybridForCausalLM — Input: Text — Output: Text — Model Optimizations: — Weight quantization: FP8 —...
Llama-4-Scout-17B-16E-Instruct-FP8-block
— Model Architecture: Llama4ForConditionalGeneration — Input: Text, Image — Output: Text — Model Optimizations: — Weight quantization: FP8...
NVIDIA-Nemotron-Nano-9B-v2-FP8-dynamic
— Model Architecture: NemotronHForCausalLM — Input: Text — Output: Text — Model Optimizations: — Weight quantization: FP8 —...
Qwen3-VL-235B-A22B-Instruct-FP8-block
— Model Architecture: Qwen3VLMoeForConditionalGeneration — Input: Text/Image/Video — Output: Text — Model Optimizations: — Weight quantization: FP8 —...
Qwen3-VL-235B-A22B-Instruct-FP8-dynamic
— Model Architecture: Qwen3VLMoeForConditionalGeneration — Input: Text/Image/Video — Output: Text — Model Optimizations: — Weight quantization: FP8 —...
Qwen3-Next-80B-A3B-Instruct-NVFP4
— Архитектура модели: Qwen3NextForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...
NVIDIA-Nemotron-Nano-9B-v2-quantized.w4a16
— Архитектура модели: NemotronHForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Qwen3-VL-32B-Instruct-NVFP4
— Архитектура модели: Qwen3VLForConditionalGeneration — Входные данные: текст, изображение — Выходные данные: текст — Оптимизация модели: — Квантование...
Qwen3-Coder-Next-NVFP4
— Архитектура модели: Qwen3NextForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...