speechless-code-mistral-7B-v1.0-GPTQ
Чат Предоставляются несколько вариантов параметров GPTQ. Подробную информацию о доступных вариантах, их параметрах и программном обеспечении, используемом для...
Чат Предоставляются несколько вариантов параметров GPTQ. Подробную информацию о доступных вариантах, их параметрах и программном обеспечении, используемом для...
Чат По сравнению с GPTQ он обеспечивает более быстрое выполнение инференса на основе Transformers. Теперь он также поддерживается...
AWQ model(s) for GPU inference. GPTQ models for GPU inference, with multiple quantisation parameter options. * 2, 3,...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: harborwater Теги: llama, en, model-index, text-generation-inference, endpoints_compatibleЛайков: 2 | ...
Chat & support: TheBloke’s Discord server Want to contribute? TheBloke’s Patreon page TheBloke’s LLM work is generously supported...
This is OpenLLaMA 3B V2 finetuned on LIMA(ShareGPT format) for 2 epochs. Модальности:Генерация текста Задача: Генерация текста Автор:...
«Obsessed with GenAI’s potential? So am I ! Let’s create together 🚀 https://www.linkedin.com/in/pankajam» We evaluated model_009 on a...
Speedup inference while reducing memory by 2x-4x using int8 inference in C++ on CPU or GPU. Checkpoint compatible...
Santacoder finetuned on The-Stack-dedup (GLSL subset) for 1000 steps with a batch size of 2 and full sequence...
Santacoder finetuned on Shadertoys for 1000 steps with a batch size of 2 and full sequence length of...