Метка: vllm - Страница 17 - Каталог нейросетей

Метка: vllm

Генерация текста

acnagle/Terminator-Qwen3-8B

Терминатор — это легкий нейронный модуль, который предсказывает, когда модель языка рассуждений достигнет окончательного ответа во время генерации...

Генерация текста

MuXodious/gpt-oss-20b-RichardErkhov-heresy-GGUF

Вы можете использовать gpt-oss-120b и gpt-oss-20b с трансформерами. Если вы используете шаблон чата Трансформеры, он автоматически применит формат...

Генерация текста

GadflyII/GLM-4.7-Flash-MTP-NVFP4

Это квантование NVFP4 смешанной точности zai-org/GLM-4.7-Flash, модель Mixture-of-Experts 30B-A3B (30B всего, 3B активно). Эта версия сохраняет уровни MTP...

Генерация текста

TheHouseOfTheDude/GLM-4.7_Compressed-Tensors

В этом репозитории представлены квантованные сборки zai-org/GLM-4.7 (модель Mixture-of-Experts), переупакованные для vLLM с использованием формата сжатых тензоров. >...

Генерация текста

Doradus-AI/RnJ-1-Instruct-FP8

Это квантованная версия EssentialAI/RnJ-1-Instruct FP8, созданная с использованием llmcompressor (Neural Magic). Ключевые преимущества: — Размер модели меньше на...

Генерация текста

Doradus-AI/Hermes-4.3-36B-FP8

Это квантованная версия NousResearch/Hermes-4.3-36B FP8, созданная с использованием llmcompressor (Neural Magic). Основные преимущества: — Размер модели меньше примерно...

Генерация текста

bullpoint/GLM-4.6-AWQ

Высокопроизводительное AWQ-квантование ZHIPU AI GLM-4.6 (357B MoE), оптимизированное для вывода vLLM. Это профессионально квантованная 4-битная AWQ-версия Z.ai GLM-4.6,...

Генерация текста

QuantTrio/GLM-4.6-AWQ

По состоянию на 1 октября 2025 г. создайте новую среду Python и запустите: 👋 Присоединяйтесь к нашему сообществу...