Zero-Mistral-Small-24B-Instruct-2501
Zero-Mistral-Small — это улучшенная версия mistralai/Mistral-Small-24B-Instruct-2501, адаптированная в первую очередь для русского и английского языков. Обучение включало этап...
Метка: vllm
CTRL-32B
CTRL-32B — это критический LLM, доработанный из Qwen2.5-Coder-32B-Instruct. — Страница проекта: https://critic-rl.github.io/ — Документ: https://arxiv.org/abs/2502.03492 — Код: https://github.com/HKUNLP/critic-rl...
DeepSeek-R1-Distill-Qwen-7B-quantized.w8a8
— Архитектура модели: Qwen2ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...
DeepSeek-R1-Distill-Qwen-32B-quantized.w4a16
— Архитектура модели: Qwen2ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
DeepSeek-R1-Distill-Llama-8B-FP8-dynamic
— Архитектура модели: LlamaForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...
Meta-Llama-3.1-8B-quantized.w8a8
— Архитектура модели: Meta-Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...
Meta-Llama-3.1-70B-Instruct-quantized.w8a16
— Архитектура модели: Meta-Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
gemma-2-9b-it-FP8
— Архитектура модели: Gemma 2 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое...
Phi-3-medium-128k-instruct-FP8
— Архитектура модели: Phi-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
GLM-5.2-NVFP4-REAP-Recall-N172
Восстановленный из отзыва повторный REAP GLM-5.2-NVFP4 — 172 эксперта на уровень (из 256), самосогласованный, веса BF16 сохранены, эксперты...