alamios_Mistral-Small-3.1-DRAFT-0.5B-GGUF
Original model: https://huggingface.co/alamios/Mistral-Small-3.1-DRAFT-0.5B Run them directly with llama.cpp, or any other llama.cpp based project Some of these quants...
Метка: mistral-small-3.1
Mistral-Small-3.1-DRAFT-0.5B-GGUF
This model is meant to be used as draft model for speculative decoding with mistralai/Mistral-Small-3.1-24B-Instruct-2503 or mistralai/Mistral-Small-24B-Instruct-2501 The...
Qwenstral-Small-3.1-0.5B
Qwen/Qwen2.5-0.5B, но со словарем mistralai/Mistral-Small-3.1-24B-Instruct-2503/mistralai/Mistral-Small-24B-Instruct-2501, пересаженным с помощью трансплантата-вокаба. Его можно использовать непосредственно в качестве черновой модели для...
Mistral-Small-3.1-DRAFT-0.5B
Эта модель предназначена для использования в качестве черновой модели для спекулятивного декодирования с помощью mistralai/Mistral-Small-3.1-24B-Instruct-2503 или mistralai/Mistral-Small-24B-Instruct-2501. Данные...