semikong-8b-GGUF
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: navubolecou Теги: llama, conversational, text-generation-inference,...
Метка: gptq
gemma-2-9b-it-GPTQ
This is the model card of a 🤗 transformers model that has been pushed on the Hub. This...
Meta-Llama-3-8B-Instruct-quantized.w8a16
— Архитектура модели: Meta-Llama-3 — Ввод: Текст — Вывод: Текст — Оптимизация модели: — Квантование веса: INT8 —...
Gemma-2-9B-Instruct-4Bit-GPTQ
Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Следование инструкциям Задача: Генерация текста Автор: Granther Теги: gemma2,...
Qwen2-1.5B-Instuct-int4-inc
This model is an int4 model with groupsize 32 sym of Qwen/Qwen2-1.5B-Instruct generated by intel/auto-round, we will generate...
Llama-3-SauerkrautLM-70b-Instruct-GPTQ
This is a quantized model of Llama-3-SauerkrautLM-70b-Instruct using GPTQ developed by IST Austria using the following configuration: —...
Llama-3-8B-GPTQ-8-Bit
This model is generously created and made open source by Astronomer. Astronomer is the de facto company for...
Everyone-Coder-33B-Base-GPTQ
Chat & support: TheBloke’s Discord server Want to contribute? TheBloke’s Patreon page TheBloke’s LLM work is generously supported...
UNA-34Beagles-32K-bf16-v1-GPTQ
MaziyarPanahi/UNA-34Beagles-32K-bf16-v1-GPTQ представляет собой квантованную (GPTQ) версию моноармии/UNA-34Beagles-32K-bf16-v1 Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: MaziyarPanahi...
Garrulus-GPTQ
Чат Эти файлы были квантованы с использованием оборудования, любезно предоставленного Massed Compute. Модель(и) AWQ для вывода GPU. Модели...