Hermes-3-Llama-3.1-70B-GGUF
Исходная модель: https://huggingface.co/NousResearch/Hermes-3-Llama-3.1-70B https://aitorrent.zerroug.de/bartowski-hermes-3-llama-3-1-70b-gguf-torrent/ Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования...