gpt-oss-120b-speculator.eagle3
— Verifier: openai/gpt-oss-120b — Speculative Decoding Algorithm: EAGLE-3 — Model Architecture: Eagle3Speculator — Release Date: 03/10/2026 — Version:...
Метка: neuralmagic
Qwen3-Next-80B-A3B-Instruct-quantized.w4a16
— Model Architecture: Qwen3NextForCausalLM — Input: Text — Output: Text — Model Optimizations: — Weight quantization: INT4 —...
Devstral-Small-2507-FP8-Dynamic
— Model Architecture: MistralForCausalLM — Input: Text — Output: Text — Model Optimizations: — Activation quantization: FP8 —...
Qwen3-14B-FP8-dynamic
— Model Architecture: Qwen3ForCausalLM — Input: Text — Output: Text — Model Optimizations: — Activation quantization: FP8 —...
Qwen3-4B-quantized.w4a16
— Архитектура модели: Qwen3ForCausalLM — Вход: Текст — Выход: Текст — Оптимизация модели: — Квантование веса: INT4 —...
Llama-3.3-70B-Instruct-quantized.w4a16
— Архитектура модели: Meta-Llama-3.1 — Ввод: Текст — Вывод: Текст — Оптимизация модели: — Квантование веса: INT4 —...
Qwen2.5-1.5B-quantized.w8a8
— Model Architecture: Qwen2 — Input: Text — Output: Text — Model Optimizations: — Activation quantization: INT8 —...
Llama-3.2-1B-Instruct-FP8
— Архитектура модели: Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...
Qwen3-8B-quantized.w4a16
— Архитектура модели: Qwen3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
phi-4-quantized.w4a16
— Архитектура модели: Phi3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...