Supertron2.1-0.6B-GGUF содержит экспорт GGUF Surpem/Supertron2.1-0.6B, компактной универсальной модели на основе Qwen3 от Surpem. Этот репозиторий предназначен для локального вывода с llama.cpp, LM Studio, Jan, KoboldCpp, text-generation-webui и другими GGUF-совместимыми средами выполнения. Оригинальный контрольно-пропускной пункт Transformers доступен по адресу Surpem/Supertron2.1-0.6B. ноутбуки CPU вывод быстрое тестирование низкий VRAM * общий чат Используйте это, когда вы хотите лучшее качество, сохраняя при этом файл меньше, чем полная точность. локальное кодирование справка математика подсказывает лучшие инструкции после разгрузки графического процессора со скромным сравнением VRAM тестирование повторного квантования качество проверяет рабочие процессы разработки Оригинальная модель: Surpem/Supertron2.1-0.6B Модель GGUF: Surpem/Supertron2.1-0.6B-GGUF MLX 4-bit: Surpem/Supertron2.1-0.6B-MLX-4Bit MLX 8-bit: Surpem/Supertron2.1-0.6B-MLX-8Bit Файлы GGUF были преобразованы из последней контрольной точки Supertron2.1-0.6B Transformers с помощью инструментария llama.cpp. Квантовые модели являются приближениями исходной контрольной точки bf16, и поведение может варьироваться в зависимости от времени выполнения, формата подсказки и настроек выборки. Q4 меньше, но менее точен, чем Q8/F16. Модель может галлюцинировать или выдавать неправильный код. Человек…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Surpem
Теги: gguf, llama-cpp, qwen, qwen3, chat, quantized, q4, q8
Лайков: 3 | Загрузок: 46
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
