— Название модели: MistralSQL-7B — Имя базовой модели: mistralai/Mistral-7B-Instruct-v0.1 — URL-адрес базовой модели: Mistral-7B-Instruct-v0.1 — Имя набора данных: bugdaryan/sql-create-context-instruction — URL-адрес набора данных: Набор данных SQL Create Context — Описание набора данных: Этот набор данных создан на основе SQL Create Context, полученного из WikiSQL и Spider и содержит 78 577 примеров естественного языка. запросы, операторы SQL CREATE TABLE и запросы SQL, отвечающие на вопросы, используя оператор CREATE в качестве контекста. — Размер внимания LoRA: 64 — Параметр LoRA Alpha: 16 — Вероятность выпадения LoRA: 0,1 — Параметры Bitsandbytes: — Активировать загрузку базовой модели с 4-битной точностью: True — Вычислить dtype для 4-битных базовых моделей: float16 — Тип квантования (fp4 или nf4): nf4 — Активировать вложенное квантование для 4-битных базовых моделей: False — Параметры TrainingArguments: — Выход каталог: «./results» — Количество эпох обучения: 1 — Включить обучение fp16/bf16: False/True — Размер пакета на каждый графический процессор для обучения: 80 — Размер пакета на каждый графический процессор для оценки: 4 — Шаги накопления градиента: 1 — Включить контрольную точку градиента: True — Максимальная норма градиента (отсечение градиента): 0,3 — Начальная скорость обучения (оптимизатор AdamW): 2e-4 — Затухание веса:…
Модальности:
Генерация текста
Области применения:
Текст в SQL Диалог / чат
Задача: Генерация текста
Автор: bugdaryan
Теги: mistral, text2sql, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
