Метка: vllm - Страница 19 - Каталог нейросетей

Метка: vllm

Генерация текста

ospatch/QwQ-32B-INT8-W8A8

— Архитектура модели: трансформаторы с RoPE, SwiGLU, RMSNorm и вниманием QKV смещением — Входные данные: текст — Выходные...

Генерация текста

ZeroAgency/Zero-Mistral-Small-24B-Instruct-2501

Zero-Mistral-Small — это улучшенная версия mistralai/Mistral-Small-24B-Instruct-2501, адаптированная в первую очередь для русского и английского языков. Обучение включало этап...

Генерация текста

Zhihui/CTRL-32B

CTRL-32B — это критический LLM, доработанный из Qwen2.5-Coder-32B-Instruct. — Страница проекта: https://critic-rl.github.io/ — Документ: https://arxiv.org/abs/2502.03492 — Код: https://github.com/HKUNLP/critic-rl...

Генерация текста

RedHatAI/Meta-Llama-3.1-8B-quantized.w8a8

— Архитектура модели: Meta-Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...