GGUF и квантовые модели здесь основаны на модели MaziyarPanahi/calme-2.1-qwen2-72b. Вы можете загрузить только те кванты, которые вам нужны, вместо клонирования всего репозитория следующим образом:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MaziyarPanahi
Теги: gguf, qwen, qwen-2, quantized, 2-bit, 3-bit, 4-bit, 5-bit
Лайков: 13 | Загрузок: 223
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.