Эта модель представляет собой доработанную версию Llama-3.2-3B-Instruct, разработанную специально для задач преобразования текста в SQL. Он был обучен принимать схему базы данных и вопрос на естественном языке, а также выводить действительный запрос SQL вместе с кратким объяснением логики. Он легкий (параметры 3B), что делает его пригодным для локального развертывания на потребительских графических процессорах с использованием 4-битного квантования. 1) Базовая модель: unsloth/Llama-3.2-3B-Instruct 2) Платформа тонкой настройки: Unsloth (QLoRA) 3) Набор данных: gretelai/synthetictextto_sql Модель была обучена с использованием формата приглашения Alpaca. Для достижения наилучших результатов структурируйте свои входные данные следующим образом: Модель была точно настроена с помощью Unsloth на графическом процессоре Tesla T4 (Google Colab). Гиперпараметры 1) Ранг (r): 16 2) LoRA Alpha: 16 3) Целевые модули: qproj, kproj, vproj, oproj,gateproj, upproj, downproj 4) Квантование: 4-битное (Normal Float4) 5) Максимальная длина последовательности: 2048 6) Скорость обучения: 2e-4 7) Оптимально: adamw8bit 8) Макс Шагов: 60 Модель была обучена на наборе данных gretelai/synthetictexttosql с использованием следующих полей: 1) sqlcontext: используется в качестве контекста схемы базы данных. 2) sqlprompt: вопрос о естественном языке. 3) sql: целевой SQL-запрос. 4) sqlexplanation: объяснение…
Модальности:
Генерация текста
Области применения:
Текст в SQL Диалог / чат
Задача: Генерация текста
Автор: Ary-007
Теги: llama, text-to-sql, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
