Daredevil-8B-abliterated-2bit-HQQ
This is the model card of a 🤗 transformers model that has been pushed on the Hub. This...
Метка: hqq
Noromaid-v0.4-Mixtral-Instruct-8x7b-Zloss_attn-4bit-moe-2bit-HQQ
Тензоры внимания 4-битные, потому что Mixtral повторно использует их для каждого эксперта — поэтому добавляется всего 0,4 ГБ,...
AlphaMonarch-7B-2bit-HQQ
tl;dr: AlphaMonarch-7B — это новое слияние DPO, которое сохраняет все мыслительные способности самых лучших слияний и значительно улучшает...