Метка: vllm - Страница 16 - Каталог нейросетей

Метка: vllm

Генерация текста

ZeroXClem/L3-Aspire-Heart-Matrix-8B

ZeroXClem/L3-Aspire-Heart-Matrix-8B — это экспериментальная языковая модель, созданная путем слияния трех высококачественных моделей параметров 8B с использованием метода слияния...

Генерация текста

bartowski/Mistral-Large-Instruct-2411-exl2

«Основная» ветвь содержит только measurement.json, скачайте одну из других ветвей для модели (см. ниже) Каждая ветвь содержит отдельные...

Генерация текста

RedHatAI/Llama-3.2-1B-Instruct-FP8-dynamic

— Архитектура модели: Meta-Llama-3.2 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...

Генерация текста

mgoin/Nemotron-4-340B-Instruct-hf

Переделанная КПП nvidia/Nemotron-4-340B-Instruct. В частности, он был создан из контрольной точки .nemo v1.0 на NGC. Все приведенные ниже...

Генерация текста

canada-quant/hy3-w4a16-mtp

> Выпущено 16 июля 2026 г. Все этапы пройдены: проверка артефакта (—check-mtp), > качество по сравнению с FP8...

Генерация текста

olka-fi/Hy3-MXFP4

> 4-битное квантование MXFP4 tencent/Hy3. > Оригинальная карта модели полностью сохранена ниже. Квант MXFP4 только по весу, создаваемый...

Генерация текста

olka-fi/Ornith-1.0-397B-MXFP4

4-битное квантование MXFP4 Ornith-1.0-397B, созданное с помощью qstream. Только перенаправленные эксперты MoE (~95% весов) квантуются в MXFP4; все,...

Генерация текста

r0b0tlab/nex-n2-mini-nvfp4

Nex-N2-mini с квантованием NVFP4 (тонкая настройка Qwen3.5-MoE-35B), оптимизированная для NVIDIA Blackwell (SM 12.1), обслуживающая через vLLM с ядрами...

Генерация текста

spectator2026/MiMo-V2.5-AWQ-int4

4-битное (AWQ W4A16, только для экспертов) квантование MiMo-V2.5, упакованное для работы на NVIDIA A100 (SM80) под стандартной версией...