Это языковая модель, настроенная на данные для вызова API как функций в формате, используемом Superflows. Эта модель обучена на Zephyr 7B Beta (тонкая настройка Mistral 7B на основе чата) с использованием QLoRA, метода точной настройки с эффективными параметрами. Если вы заинтересованы в самостоятельном размещении Superflow с использованием этой модели, обратитесь к Генри. — Разработано: Superflows — Тип модели: 7B-параметр GPT-подобной модели, точно настроенной с использованием QLoRA в наборе данных Superflows — Язык(и) (NLP): преимущественно английский — Лицензия: Apache 2.0 — Доработано на основе модели: Zephyr 7B Beta Использовать в качестве LLM для Superflows AI Copilot, встроенного в программный продукт. Второй пилот может вызывать API-интерфейсы программного обеспечения, чтобы отвечать на вопросы пользователя и выполнять задачи от имени пользователя. Используйте его для чего-либо, кроме как в качестве второго пилота Superflows AI для программного продукта. Во время обучения использовалась следующая конфигурация квантования bitsandbytes: — quantmethod: bitsandbytes — loadin8bit: False — loadin4bit: True — llmint8threshold: 6.0 — llmint8skipmodules: None — llmint8enablefp32cpuoffload: False — llmint8hasfp16weight: False — bnb4bitquanttype: nf4 — bnb4bitusedoublequant: True — bnb4bitcompute_dtype: bfloat16
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Superflows
Теги: peft, mistral, endpoints_compatible, inference, text-generation-inference, en
Лайков: 4 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
