effi-13b-quant
LlaMa-2 13b fine-tuned on the kaist-ai/CoT-Collection dataset by using the method QLoRA in 4-bit with PEFT library. Meta...
LlaMa-2 13b fine-tuned on the kaist-ai/CoT-Collection dataset by using the method QLoRA in 4-bit with PEFT library. Meta...
Exllama v2 quant of Doctor-Shotgun/Euryale-1.3-limarpv3-L2-70B Branches: — main: measurement.json calculated at 2048 token calibration rows on PIPPA —...
This is a Llama 2-based model consisting of a merge between Sao10K/Euryale-1.3-L2-70B and a PEFT adapter trained using...
Stellar Bright is a general capability upgrade to Llama 2, using open source data to improve overall knowledge,...
Чат Предоставляются несколько вариантов параметров GPTQ. Подробную информацию о доступных вариантах, их параметрах и программном обеспечении, используемом для...
Чат Предоставляются несколько вариантов параметров GPTQ. Подробную информацию о доступных вариантах, их параметрах и программном обеспечении, используемом для...
Чат По сравнению с GPTQ он обеспечивает более быстрое выполнение инференса на основе Transformers. Теперь он также поддерживается...
AWQ model(s) for GPU inference. GPTQ models for GPU inference, with multiple quantisation parameter options. * 2, 3,...
FireAct Llama/CodeLlama is a collection of fine-tuned generative text models for performing ReAct with external search tools. Links...
Chat & support: TheBloke’s Discord server Want to contribute? TheBloke’s Patreon page TheBloke’s LLM work is generously supported...