Эта модель представляет собой один из экспериментов по молорам (смесь нескольких LoRA). Извлеките модули LoRA из приведенных ниже моделей (все они основаны на Mistral-7B-v0.1), каждый модуль LoRA обладает своими уникальными навыками. Используя мультилоры, их можно комбинировать статически или динамически, образуя новую универсальную модель. — HuggingFaceH4/zephyr-7b-beta (модель без цензуры) — metkai/functionary-small-v2.2 (выполнение функций/плагинов) — uukuguy/speechless-code-mistral-7b-v1.0 (улучшенное кодирование) Весь процесс завершается за счет использования Extract-lora, merge-lora и lora-hub, предоставляемых multi-loras. Маршрутизатор смеси мультилоров обеспечивает автоматическую сборку модулей LoRA, используя безградиентный подход для получения коэффициентов модулей LoRA и требуя всего несколько шагов вывода для невидимых задач.
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: uukuguy
Теги: gguf, mistral, en, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 8,808
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
