gpt-oss-120b-speculator.eagle3
— Verifier: openai/gpt-oss-120b — Speculative Decoding Algorithm: EAGLE-3 — Model Architecture: Eagle3Speculator — Release Date: 03/10/2026 — Version:...
Метка: redhat
Qwen3-Next-80B-A3B-Instruct-quantized.w4a16
— Model Architecture: Qwen3NextForCausalLM — Input: Text — Output: Text — Model Optimizations: — Weight quantization: INT4 —...
Devstral-Small-2507-FP8-Dynamic
— Model Architecture: MistralForCausalLM — Input: Text — Output: Text — Model Optimizations: — Activation quantization: FP8 —...
Qwen3-14B-FP8-dynamic
— Model Architecture: Qwen3ForCausalLM — Input: Text — Output: Text — Model Optimizations: — Activation quantization: FP8 —...
Qwen3-4B-quantized.w4a16
— Архитектура модели: Qwen3ForCausalLM — Вход: Текст — Выход: Текст — Оптимизация модели: — Квантование веса: INT4 —...
Qwen3-8B-quantized.w4a16
— Архитектура модели: Qwen3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
granite-3.0-8b-lab-community
Granite-3.0-8b-lab-community — это первый релиз в нашей серии открыто воспроизводимых моделей, созданных сообществом. Все модели с тегом сообщества...
Qwen3-30B-A3B-quantized.w4a16
— Архитектура модели: Qwen3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
DeepSeek-R1-quantized.w4a16
— Архитектура модели: DeepseekV3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...
Qwen3-32B-speculator.eagle3
— Верификатор: Qwen/Qwen3-32B — Алгоритм спекулятивного декодирования: EAGLE-3 — Архитектура модели: Eagle3Speculator — Дата выпуска: 17.09.2025 — Версия:...