🐛 Обновление: мы обнаружили регрессию в модели QwQ Vortext v1, которая может выводить дополнительные строки, такие как «Отредактированный текст», что является результатом неверных калибровочных данных, автоматически введенных нашим конвейером vortex. Используйте версию 2 модели здесь: https://huggingface.co/ModelCloud/QwQ-32B-Preview-gptqmodel-4bit-vortex-v2 — биты: 4 — динамический: null — размер группы: 32 — descact: true — staticgroups: false — sym: true — lmhead: false — truesequential: true — quantmethod: «gptq» — checkpointformat: «gptq» — мета: — квантователь: gptqmodel:1.2.2 — uri: https://github.com/modelcloud/gptqmodel — dumppercent: 0,1 — dumpautoincrement: 0,0015
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: ModelCloud
Теги: qwen2, gptqmodel, modelcloud, chat, qwq, instruct, int4, gptq
Лайков: 51 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
