Llama-3.3-70B-Instruct-FP8-dynamic
— Архитектура модели: Meta-Llama-3.1 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Метка: fp8
Llama-3.1-Nemotron-70B-Instruct-HF-FP8-dynamic
— Архитектура модели: Llama-3.1-Nemotron — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Meta-Llama-3.1-405B-Instruct-FP8-dynamic
— Архитектура модели: Meta-Llama-3.1 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Qwen2-72B-Instruct-FP8
— Архитектура модели: Qwen2 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
MiniMax-M2.5-Hybrid-AWQ-W4A16G128-Attn-fp8_e4m3-KV-fp8_e4m3
Гибридный кэш AWQ int4 + fp8 + fp8 KV MiniMaxAI/MiniMax-M2.5 (~229B параметров, 256 экспертов на слой), который подходит...
DeepSeek-V3.1-Terminus-W4AFP8
Эта модель представляет собой квантованную версию DeepSeek-V3.1-Terminus смешанной точности, в которой плотный слой сохраняет квантование FP8 исходной модели,...
MiniMax-M2.7
MiniMax-M2.7 — наша первая модель, глубоко участвующая в собственной эволюции. M2.7 способен создавать сложные агентские системы и выполнять...
Qwopus3.5-27B-v3-FP8-vllm-ready
> ### Об этом форке > Этот репозиторий представляет собой копию > Jackrong/Qwopus3.5-27B-v3-FP8 с фиксированными метаданными и именем...
Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-FP8-Dynamic
Унифицированная квантованная версия FP8 Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled — модель Qwen3.5-27B, очищенная от рассуждений Claude 4.6 Opus. ~29 ГБ на диске...
MiniMax-M2
Сегодня мы выпускаем MiniMax-M2 с открытым исходным кодом, модель Mini, созданную для кодирования Max и агентных рабочих процессов....