Squish42/WizardLM-7B-Uncensored-GPTQ-8bit-128g - Каталог нейросетей
Генерация текста

Squish42/WizardLM-7B-Uncensored-GPTQ-8bit-128g

Добавлено:
Squish42/WizardLM-7B-Uncensored-GPTQ-8bit-128g

ehartford/WizardLM-7B-Uncensored quantized to 8bit GPTQ with group size 128 + true sequential, no act order. For most uses this probably isn’t what you want. For 4bit GPTQ quantizations see TheBloke/WizardLM-7B-uncensored-GPTQ Tested for compatibility with: — WSL with GPTQ-for-Llama triton branch. AutoGPTQ loader should read configuration from quantizeconfig.json. For GPTQ-for-Llama use the following configuration when loading: wbits: 8 groupsize: 128 modeltype: llama

Модальности:
Генерация текста

Задача: Генерация текста
Автор: Squish42
Теги: llama, endpoints_compatible
Лайков: 2  |  Загрузок: 10

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #endpoints_compatible #llama

Похожие модели (Генерация текста)

Генерация текста

Kwai-Klear/GoLongRL-4B

We present GoLongRL, a fully open-source, capability-oriented post-training recipe for long-context reinforcement learning with verifiable rewards (RLVR). Overall...

36
HF Подробнее
Генерация текста

shibing624/chinese-text-correction-7b

— 评估指标: F1 — CSC (исправление китайского правописания):拼写纠错模型,表示模型可以处理音似、形似、语法等长度对齐的错误纠正 — CTC (коррекция китайского текста):文本纠错模型,表示模型支持拼写、语法等长度对齐的错误纠正,还可以处理多字、少字等长度不对齐的错误纠正- Графический процессор: Tesla V100, 32...

70
HF Подробнее
Генерация текста

DmitryYarov/dosocratic

— Example 1: «Benevolence» — Example 2: «Goodness» — Example 3: «Justice» APIURL = «https://api-inference.huggingface.co/models/DmitryYarov/dosocratic» headers = {«Authorization»:...

0
HF Подробнее