Метка: q4_k_m - Страница 2 - Каталог нейросетей

Метка: q4_k_m

Генерация текста

HCHs/RivetCoder-9B-A4B-GGUF

Q80 и Q4K_M GGUF квантования ГХГ/RivetCoder-9B-A4B. Оба файла были квантованы непосредственно из канонической контрольной точки BF16, а не...

Генерация текста

ErikFeng/DeepSeek-R1-Distill-Llama-70B-Science-Q4_K_M-GGUF

Научно откалиброванный 4-разрядный GGUF deepseek-ai/DeepSeek-R1-Distill-Llama-70B с использованием матрицы важности, вычисленной на наборе данных математических рассуждений MetaMathQA. — Q4KM...