Метка: Sao10K/Llama-3.1-8B-Stheno-v3.4

bartowski/Stheno-Hercules-3.1-8B-GGUF

Оригинальная модель: https://huggingface.co/ZeroXClem/Stheno-Hercules-3.1-8B Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) являются стандартным методом квантования с квантованием...