Модель большого языка Mistral-7B-Instruct-v0.2 (LLM) представляет собой усовершенствованную версию Mistral-7B-v0.2. Mistral-7B-v0.2 имеет следующие изменения по сравнению с Mistral-7B-v0.1 — контекстное окно 32 тыс. (по сравнению с контекстом 8 тыс. в версии 0.1) — Rope-theta = 1e6 — Нет скользящего окна Внимание! Для получения полной информации об этой модели, пожалуйста, прочитайте нашу статью и опубликуйте сообщение в блоге. Чтобы использовать точную настройку инструкций, ваше приглашение должно быть окружено токенами [INST] и [/INST]. Самая первая инструкция должна начинаться с идентификатора начала предложения. Следующие инструкции не должны. Генерация помощника будет завершена по идентификатору токена конца предложения. Этот формат доступен в виде шаблона чата с помощью метода applychattemplate(): Установка преобразователей из исходного кода должна решить проблему pip install git+https://github.com/huggingface/transformers Модель Mistral 7B Instruct — это быстрая демонстрация того, что базовую модель можно легко настроить для достижения превосходной производительности. Никаких механизмов модерации у него нет. Мы с нетерпением ждем возможности совместно с сообществом найти способы заставить модель точно соблюдать ограничения, позволяя развертывать ее в средах, требующих модерируемых выходных данных. Альберт…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: MaziyarPanahi
Теги: mistral, finetuned, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 8,052
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
