glm-4-9b-chat-GPTQ-Int4
1. Доступ к точке входа vllm в формате vllm. 2. Доступ к точке входа в vllm. GLM-4-9B-Chat-GPTQ-Int8-量化修复,这个模型更鲁棒。 GLM-4-9B...
1. Доступ к точке входа vllm в формате vllm. 2. Доступ к точке входа в vllm. GLM-4-9B-Chat-GPTQ-Int8-量化修复,这个模型更鲁棒。 GLM-4-9B...
взвешенные/иматричные кванты https://huggingface.co/Jiunsong/supergemma4-e4b-abliterated. Для удобного обзора и списка загрузки посетите нашу страницу модели для этой модели. статические кванты...
> [!ВАЖНО] > Уведомление об именовании (10 апреля 2026 г.). Метод «HLWQ», используемый в этой модели, переименовывается в...
Это квант высочайшего качества, который может работать на 192 ГБ видеопамяти > [!TIP] > 💡Это родственная модель mratsim/MiniMax-M2.1-FP8-INT4-AWQ...
Квантованная версия MiniMaxAI/MiniMax-M2.1 NVFP4 для эффективного вывода на графических процессорах NVIDIA Blackwell. — Формат: NVFP4 с двухуровневым масштабированием...
Сегодня мы анонсируем Qwen3-Coder, нашу самую агентную модель кода на сегодняшний день. Qwen3-Coder доступен в нескольких размерах, но...
Эта модель была создана с использованием llama.cpp при фиксации f5cd27b7. Наш новейший метод квантования представляет собой высокоточное адаптивное...
— Архитектура модели: DeepseekV3ForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...
— Архитектура модели: Meta-Llama-3.1 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
— Архитектура модели: DeepSeek-Coder-V2-Instruct — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...