Модель большого языка (LLM) на базе Mistral-7B представляет собой усовершенствованную версию Mistral-7B-v0.1 VecTeus с набором данных, которая имеет следующие изменения по сравнению с Mistral-7B-v0.1. — Контекстное окно 128 КБ (контекст 8 КБ в версии 0.1) — Достижение высокого качества генерации на японском и английском языках — Может быть сгенерирован NSFW — Способность памяти, которая не забывается даже после длительной генерации контекста. Эта модель была создана с помощью графических процессоров первого хакатона LocalAI. — Chatvector для нескольких моделей — Простое линейное объединение результирующих моделей — Улучшение домена и предложения с помощью LORA — Расширение контекста — VT0.1 = Ninjav1 + Original Lora — VT0.2 = Ninjav1 128k + Original Lora — VT0.2on0.1 = VT0.1 + VT0.2 — Данные обучения могут быть необъективными. Будьте осторожны с сгенерированными предложениями. — Использование памяти может быть большим для длинных выводов. — Если возможно, мы рекомендуем делать выводы с помощью llamacpp, а не Transformers.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Local-Novel-LLM-project
Теги: mistral, finetuned, conversational, en, ja, text-generation-inference, endpoints_compatible
Лайков: 34 | Загрузок: 42
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
