Метка: vllm - Страница 22 - Каталог нейросетей

Метка: vllm

Генерация текста

mradermacher/supergemma4-e4b-abliterated-i1-GGUF

взвешенные/иматричные кванты https://huggingface.co/Jiunsong/supergemma4-e4b-abliterated. Для удобного обзора и списка загрузки посетите нашу страницу модели для этой модели. статические кванты...

Генерация текста

mratsim/MiniMax-M2.1-BF16-INT4-AWQ

Это квант высочайшего качества, который может работать на 192 ГБ видеопамяти > [!TIP] > 💡Это родственная модель mratsim/MiniMax-M2.1-FP8-INT4-AWQ...

Генерация текста

GadflyII/MiniMax-M2.1-NVFP4

Квантованная версия MiniMaxAI/MiniMax-M2.1 NVFP4 для эффективного вывода на графических процессорах NVIDIA Blackwell. — Формат: NVFP4 с двухуровневым масштабированием...

Генерация текста

Mungert/Devstral-Small-2505-GGUF

Эта модель была создана с использованием llama.cpp при фиксации f5cd27b7. Наш новейший метод квантования представляет собой высокоточное адаптивное...

Генерация текста

RedHatAI/DeepSeek-R1-quantized.w4a16

— Архитектура модели: DeepseekV3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...

Генерация текста

RedHatAI/DeepSeek-Coder-V2-Instruct-FP8

— Архитектура модели: DeepSeek-Coder-V2-Instruct — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...