Метка: Locutusque/Hercules-6.1-Llama-3.1-8B

bartowski/Stheno-Hercules-3.1-8B-GGUF

Оригинальная модель: https://huggingface.co/ZeroXClem/Stheno-Hercules-3.1-8B Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) являются стандартным методом квантования с квантованием...