ModelCloud/gemma-2-9b-it-gptq-4bit - Каталог нейросетей
Генерация текста

ModelCloud/gemma-2-9b-it-gptq-4bit

Добавлено:
ModelCloud/gemma-2-9b-it-gptq-4bit

Эта модель была квантована с использованием GPTQModel. — биты: 4 — размер группы: 128 — descact: false — staticgroups: false — sym: true — lmhead: false — dumppercent: 0.01 — truesequential: true — modelnameorpath: — modelfilebasename: model — quantmethod: gptq — checkpointformat: gptq — мета: — квантователь: gptqmodel:0.9.2

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: ModelCloud
Теги: gemma2, gemma 2, gptq, 4bit, gptqmodel, conversational, text-generation-inference, endpoints_compatible
Лайков: 4  |  Загрузок: 74

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #4bit #conversational #endpoints_compatible #gemma-2 #gemma2 #gptq #gptqmodel #text-generation-inference

Похожие модели (Генерация текста)

Генерация текста

NorwAI/NorwAI-Mistral-7B-instruct

Обратите внимание, что доступ ограничен студентами, компаниями и организациями из стран Северной Европы. Пожалуйста, укажите свой рабочий или...

915
HF Подробнее
Генерация текста

DatarusAI/Datarus-R1-14B-preview

Datarus-R1-14B-Preview — это языковая модель с открытыми весами с 14B параметрами, доработанная на основе Qwen2.5-14B-Instruct и предназначенная для...

288
HF Подробнее
Генерация текста

Intelligent-Internet/II-Medical-8B

II-Medical-8B — это новейшая усовершенствованная модель большого языка, разработанная Intelligent Internet и специально разработанная для улучшения медицинских рассуждений...

1.2k
HF Подробнее
Генерация текста

mlx-community/Jan-nano-8bit

Эта модель mlx-community/Jan-nano-8bit была конвертирована в формат MLX из Menlo/Jan-nano с использованием mlx-lm версии 0.25.2. Модальности:Генерация текста Области...

26
HF Подробнее