Квантованные GGUF-сборки Ellbendls/Qwen-3-4b-TexttoSQL для быстрого вывода данных о CPU/GPU с помощью llama.cpp-совместимой среды выполнения. — Базовая модель. Точная настройка Qwen/Qwen3-4B-Instruct-2507 для преобразования текста в SQL. — Лицензия. Apache-2.0 (наследуется от базы). Сохраняйте авторство. — Цель. Превратите естественный язык в SQL. Если схема отсутствует, модель может вывести простую схему, а затем создать SQL. — Qwen-3-4b-TexttoSQL-F16.gguf — ссылка на экспорт float16 — Qwen-3-4b-TexttoSQL-q2k.gguf — Qwen-3-4b-TexttoSQL-q3km.gguf — Qwen-3-4b-TexttoSQL-q4ks.gguf — Qwen-3-4b-TexttoSQL-q4km.gguf ← хорошее значение по умолчанию — Qwen-3-4b-TexttoSQL-q5km.gguf — Qwen-3-4b-TexttoSQL-q6k.gguf — Qwen-3-4b-TexttoSQL-q80.gguf` ← почти без потерь, больше — Q4KM. Лучший баланс скорости и качества для ноутбуков и небольших серверов. — Q5КМ. Более высокое качество, немного больше RAM/VRAM. — Q80**. Высочайшее качество среди квантов. Используйте, если у вас есть запас по высоте. Это примерный показатель для модели 4B. Реальное использование зависит от времени выполнения и длины контекста. — Q4KM: 3–4 ГБ ОЗУ/видеопамяти — Q5KM: 4–5 ГБ — Q8_0: 6–8 ГБ — F16: 10–12 ГБ Выберите файл .gguf и загрузите. Установите температуру 0,1–0,3 для детерминированного SQL. * Используйте системную подсказку для закрепления поведения. База. Qwen/Qwen3-4B-Instruct-2507 (32к…
Модальности:
Генерация текста
Области применения:
Текст в SQL Следование инструкциям Диалог / чат
Языки программирования:
SQL
Задача: Генерация текста
Автор: Ellbendls
Теги: gguf, llama.cpp, qwen, text-to-sql, sql, instruct, eng, zho
Лайков: 8 | Загрузок: 150
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
