— AWQ 4bit version of Nexusflow/Athene-V2-Chat — Quantization code — This model fits only to 1 gpu. Используйте kosbu/Athene-V2-Chat-AWQ для поддержки нескольких процессоров
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: radm
Теги: qwen2, RLHF, Nexusflow, Athene, Chat Model, conversational, zho, eng
Лайков: 4 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.