— Содержание — Обзор модели — Разрядность модели — Начало работы — Цитирование — Базовая модель: Qwen/Qwen3-1.7B — Обучение: zhangsq-nju/EdgeRazor — Вывод: ggml-org/llama.cpp Используйте llama.cpp для проведения эффективного вывода на периферийных устройствах. — Qwen3-1.7B-BF16.gguf: модель BF16 из оригинального Qwen3-1.7B — Qwen3-1.7B-EdgeRazor-Q40.gguf: модель Q40 из Qwen3-1.7B-EdgeRazor-4bit — Qwen3-1.7B-EdgeRazor-TQ10.gguf: модель TQ10 из Qwen3-1.7B-EdgeRazor-1.58bit — Qwen3-1.7B-EdgeRazor-TQ20.gguf: Модель TQ20 от Qwen3-1.7B-EdgeRazor-1.58bit Если вы найдете наш проект полезным в ваших исследованиях, пожалуйста, рассмотрите возможность цитирования наших статей ✏️:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: zhangsq-nju
Теги: gguf, qwen3, edgerazor, quantization, endpoints_compatible, conversational
Лайков: 10 | Загрузок: 1,036
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
