Доработанная версия Phi-2 для варианта использования NL2SQL в наборе данных b-mc2/sql-create-context. Эта модель была точно настроена с помощью b-mc2/sql-create-context в microsoft/phi-2. Это работало лучше, чем defog/sqlcoder-7b-2 с точки зрения времени вывода и точности набора данных удержания. Оценка проводится на моделях .gguf на машинах с процессором и ограниченной оперативной памятью. Среднее время вывода Phi-2 и SQLCoder составляет 24 секунды и 41 секунда соответственно. В среднем это на 41% быстрее. Это связано с его меньшими размерами. Finetuned Phi-2 на 29% лучше, чем SQLCoder, в зависимости от успешности выполнения. Основным недостатком является контекстное окно из 2048 токенов, которое требует дополнительной обработки ввода для получения результатов. — Разработано: pavankumarbalijepalli — Тип модели: CASUALLM — Язык(и) (NLP): английский, SQL — Лицензия: MIT — Доработано на основе модели:** microsoft/phi-2 — Репозиторий: pavankumarbalijepalli/pr-phi2-vs-defog — Бумага: BITS Project Paper Model должна использоваться в тех случаях, когда у вас есть вопрос на естественном языке, схема базы данных, которая соответствует вопросу для получения SQL запрос, который отвечает на вопрос. Контекст должен быть ниже 2048 токенов. Вывод будет сгенерирован…
Модальности:
Генерация текста
Области применения:
Генерация кода Текст в SQL
Задача: Генерация текста
Автор: pavankumarbalijepalli
Теги: gguf, phi, peft, nl2sql, custom_code, en, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 95
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
