Модель большого языка (LLM) на базе Mistral-7B представляет собой усовершенствованную версию Mistral-7B-v0.1 Ninja с набором данных, имеющую следующие изменения по сравнению с Mistral-7B-v0.1. — Достижение высокого качества генерации на японском и английском языках. — Способность памяти, которая не забывается даже после генерации длительного контекста. Эта модель была создана с помощью графических процессоров первого хакатона LocalAI. — Чатвектор для нескольких моделей — Простое линейное объединение результирующих моделей — Улучшение предметной области и предложений с помощью LORA — Расширение контекста Ninja использует формат подсказок от Vicuna и поддерживает многоходовой диалог. Подсказка должна быть следующей: — WizardLM2 — mistralai/Mistral-7B-v0.1 — Elizezen/Antler-7B — Stabilityai/japanese-stablelm-instruct-gamma-7b — NTQAI/chatntq-ja-7b-v1.0 — WizardLM2: Высококачественная многозадачная модель — Antler-7B: Модель, предназначенная для написания романов — NTQAI/chatntq-ja-7b-v1.0 Высококачественная специализированная японская модель. Данные обучения могут быть необъективными. Будьте осторожны с сгенерированными предложениями. — Использование памяти может быть большим для длинных выводов. — Если возможно, мы рекомендуем делать выводы с помощью llamacpp, а не Transformers.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Local-Novel-LLM-project
Теги: mistral, finetuned, en, ja, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
