MiniMax-M2.1-BF16-INT4-AWQ
Это квант высочайшего качества, который может работать на 192 ГБ видеопамяти > [!TIP] > 💡Это родственная модель mratsim/MiniMax-M2.1-FP8-INT4-AWQ...
Метка: fp8
Kimi-K2-Instruct-0905
📰 Технический блог | 📄 Бумажный Kimi K2-Instruct-0905 — новейшая и самая функциональная версия Kimi K2. Это современная...
DeepSeek-TNG-R1T2-Chimera
Unsloth Dynamic 2.0 обеспечивает превосходную точность и превосходит другие ведущие методы количественного анализа. Сборка экспертов Модель Chimera, созданная...
Meta-Llama-3.1-70B-Instruct-FP8-dynamic
— Архитектура модели: Meta-Llama-3.1 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
DeepSeek-Coder-V2-Instruct-FP8
— Архитектура модели: DeepSeek-Coder-V2-Instruct — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Skywork-MoE-Base-FP8
🤗 Обнимающее лицо • 🤖 ModelScope • 👾 Wisemodel • 💬 WeChat• 📜Технический отчет Skywork-MoE — это высокопроизводительная...
Ling-2.6-flash-base
🤗 Обнимающее лицо | 🤖 ModelScope | Технический отчет Ling-2.6-flash-base — это базовая контрольная точка модели...
DeepSeek-V4-Flash-W4A16-FP8-MTP
W4A16 INT4 маршрутизирует экспертов + блок FP8 128×128 внимания + черновой заголовок BF16 Multi-Token Prediction (MTP) сохранен —...
Qwen2.5-VL-7B-Instruct-FP8
Модель NVIDIA Qwen2.5-VL-7B-Instruct-FP8 представляет собой квантованную версию модели Qwen2.5-VL-7B-Instruct от Alibaba, которая представляет собой авторегрессионную языковую модель, использующую...
Qwen3-30B-A3B-Instruct-2507-FP8
> [!NOTE] > Включает исправления шаблона чата Unsloth! Для llama.cpp используйте —jinja > Unsloth Dynamic 2.0 обеспечивает превосходную...