GGUF (llama.cpp) build of defog/llama-3-sqlcoder-8b, a Llama-3 8B model fine-tuned for text-to-SQL generation. This repo packages a Q4KM quantization so the model runs efficiently on CPU/GPU through llama.cpp, Ollama, LM Studio, and other GGUF-compatible runtimes. Use the prompt format expected by the base defog/llama-3-sqlcoder-8b model for best results. — Base model: defog/llama-3-sqlcoder-8b — Quantization tooling: llama.cpp See more text-to-SQL work on this profile, including the Text-to-PostgreSQL dataset.
Модальности:
Генерация текста
Области применения:
Генерация кода Текст в SQL Диалог / чат
Языки программирования:
SQL
Задача: Генерация текста
Автор: omeryentur
Теги: gguf, text-to-sql, sql, llama-3, quantized, llama-cpp, code-generation, en
Лайков: 3 | Загрузок: 37
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.