Cinematika-7b-v0.1 — это усовершенствованная версия MistralLite на базе набора данных Cinematika-v0.1. Набор данных состоит из 211 сценариев фильмов, преобразованных в многосимвольные RP-данные нового стиля. Для RP не существует формата подсказки, это просто текст с префиксом имени. Если вы хотите использовать эту модель для анализа новых сценариев, создания карточек персонажей или других типов инструкций, вам нужно будет использовать тот же формат подсказок, что и базовая модель мистралита, например: По сути, вы хотите использовать чистое завершение текста со стоп-токенами для «{ваше имя}:» Вот очень грубый пример сценария Python, чтобы показать, как вы можете с ним взаимодействовать: На Mac вы можете легко начать работу с LMStudio и SillyTavern. Загрузите модель и установите для всех значений подсказок значение «» или просто импортируйте эту предустановку (настройте потоки и антиподсказки). Затем запустите сервер и убедитесь, что «Автоматическое форматирование подсказок» отключено. — Установите для API значение «Завершение текста», тип API — «Афродита», а URL-адрес API — http://127.0.0.1:8801 (настройте порт на значение, которое вы используете в LMStudio). — Установите для шаблона контекста значение «По умолчанию», отключите режим инструкций, используйте предустановленную ролевую игру и включите «Всегда добавлять имя персонажа в подсказку». Вероятно, есть лучшие предустановки — это просто то, что я…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: mistral, text-generation-inference, endpoints_compatible
Лайков: 21 | Загрузок: 344
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
