distil-labs/distil-qwen3-4b-text2sql-gguf-4bit

4-bit quantized GGUF version of distil-qwen3-4b-text2sql for efficient local inference. Only 2.5GB — runs on most laptops and edge devices. — Small size: 2.5GB vs 15GB (full GGUF) or 8GB (safetensors) — Fast inference: Optimized for CPU and consumer GPUs — Same accuracy: Quantization has minimal impact on Text2SQL quality — Easy setup: Works with Ollama out of the box — Simple: SELECT, WHERE, COUNT, SUM, AVG, MAX, MIN — Medium: JOIN, GROUP BY, HAVING, ORDER BY, LIMIT — Complex: Subqueries, multiple JOINs, UNION

Модальности:
Генерация текста

Области применения:
Текст в SQL

Языки программирования:
SQL

Задача: Генерация текста
Автор: distil-labs
Теги: gguf, text2sql, sql, nlp, ollama, qwen3, quantized, en
Лайков: 4  |  Загрузок: 84

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.