GLM-4.7-AWQ-4bit
👋 Присоединяйтесь к нашему сообществу Discord. 📖 Ознакомьтесь с техническим блогом GLM-4.7 и техническим отчетом (GLM-4.5). 📍 Используйте...
Метка: compressed-tensors
Qwen3-Next-80B-A3B-Instruct-NVFP4
— Архитектура модели: Qwen3NextForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...
NVIDIA-Nemotron-Nano-9B-v2-quantized.w4a16
— Архитектура модели: NemotronHForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
GLM-4.6-NVFP4
Квантованная версия GLM-4.6 с использованием LLM Compressor и формата NVFP4 (E2M1 + E4M3). Это должно стать началом новой...
granite-4.0-h-small-FP8
📣 Обновление [10.07.2025]: в шаблон чата добавлено системное приглашение по умолчанию, которое помогает модели получать более профессиональные, точные...
Qwen3-Next-80B-A3B-Thinking-AWQ-8bit
За последние несколько месяцев мы наблюдали все более четкие тенденции к масштабированию как общих параметров, так и длины...
Apertus-8B-Instruct-2509-FP8-dynamic
— Архитектура модели: ApertusForCausalLM — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование веса:...
Qwen3-4B-Thinking-2507-AWQ-4bit
Оценено с использованием vllm-project/llm-compressor, nvidia/Llama-Nemotron-Post-Training-Dataset и следующих конфигураций: За последние три месяца мы продолжали масштабировать мыслительные способности Qwen3-4B,...
cogito-v2-preview-deepseek-671B-MoE-FP8
LLM Cogito v2 представляют собой генеративные модели, настроенные на инструкции. Все модели выпускаются по открытой лицензии для коммерческого...
dots.llm1.inst-FP8-dynamic
  🤗 Обнимающее лицо   |    📑 Бумага    🖥️ Демо   |   💬 WeChat (微信)   |   📕 rednote   —...