Метка: quant - Каталог нейросетей

Метка: quant

Генерация текста

eaddario/Dolphin-Mistral-24B-Venice-Edition-GGUF

Использование [LLaMA C++][llm] выпуска [b5600][llm-rel] для квантования. Исходная модель: [cognitivecomputations/Dolphin-Mistral-24B-Venice-Edition][mdl] > ![Discord](https://discord.gg/h3K4XGj2RH) > Discord: https://discord.gg/h3K4XGj2RH > Веб-сайт: https://dphn.ai...

Генерация текста

digitous/13B-HyperMantis_GPTQ_4bit-128g

GPTQ 4-битное 128-групповое квантование https://huggingface.co/digitous/13B-HyperMantis Модальности:Генерация текста Задача: Генерация текста Автор: digitous Теги: llama, alpaca, mix, gptq, quant,...