MiniMax-M2-GPTQMODEL-W4A16
This 4bit W4A16 model has been quantized by @Qubitum at ModelCloud using GPT-QModel. Модальности:Генерация текста Области применения:Следование инструкциям...
This 4bit W4A16 model has been quantized by @Qubitum at ModelCloud using GPT-QModel. Модальности:Генерация текста Области применения:Следование инструкциям...
— bits: 4 — dynamic: null — groupsize: 32 — descact: true — staticgroups: false — sym: true...
— bits: 4 — dynamic: null — groupsize: 32 — descact: true — staticgroups: false — sym: true...
— биты: 4 — размер группы: 128 — уменьшение: true — staticgroups: false — sym: true — lmhead:...
— биты: 4 — размер группы: 128 — descact: true — staticgroups: false — sym: true — lmhead:...
— биты: 4 — динамический: нуль — размер группы: 32 — descact: true — staticgroups: false — sym:...
— биты: 4 — динамический: нуль — размер группы: 32 — descact: true — staticgroups: false — sym:...
— биты: 4 — размер группы: 128 — descact: true — staticgroups: false — sym: true — lmhead:...
🚨🚨🚨 Пожалуйста, используйте модель Vortex V2, которая исправила регрессию токена . 🚨🚨🚨 — биты: 4 — динамический: нуль...
— биты: 4 — динамический: ноль — размер группы: 32 — удаление: true — staticgroups: false — sym:...