Квантованная версия Int4 AutoRound TeichAI/Qwen3.6-27B-Claude-Opus-Reasoning-Distill-v2. — Базовая модель: TeichAI/Qwen3.6-27B-Claude-Opus-Reasoning-Distill-v2 — Квантование: симметричное INT4, размер группы = 128 (W4A16)...
— Архитектура модели: DeepseekV3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...
Оптимизированная для предметной области модель рассуждения, построенная на основе DeepSeek-R1-Distill-Qwen-32B, усовершенствованная с помощью многоэтапного конвейера обучения с учетом...
CompressedTensors INT4 из Jackrong/Qwopus3.5-27B-v3 (удалено) через HLWQ (весовое квантование по Адамару-Ллойду) > Native vLLM. Ядро Марлина. Нулевой плагин....
— биты: 4 — динамический: нуль — размер группы: 32 — уменьшение: true — staticgroups: false — sym:...
Эта модель представляет собой квантованную версию DeepSeek-V3.1-Terminus смешанной точности, в которой плотный слой сохраняет квантование FP8 исходной модели,...
— биты: 4 — динамический: нуль — размер группы: 32 — уменьшение: true — staticgroups: false — sym:...
— Архитектура модели: Meta-Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
— Архитектура модели: Meta-Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
🐛 Обновление: мы обнаружили регрессию в модели QwQ Vortext v1, которая может выводить дополнительные строки, такие как «Отредактированный...
