Версия модели Мистраль 7Б, прошедшая неконтролируемую доводку под контексты до 16к. Модель большого языка Mistral-7B-Instruct-v0.1 (LLM) представляет собой усовершенствованную версию генеративной текстовой модели Mistral-7B-v0.1 с использованием различных общедоступных наборов данных разговоров. Для получения полной информации об этой модели, пожалуйста, прочитайте нашу статью и опубликуйте сообщение в блоге. Чтобы использовать точную настройку инструкций, ваше приглашение должно быть окружено токенами [INST] и [/INST]. Самая первая инструкция должна начинаться с идентификатора начала предложения. Следующие инструкции не должны. Генерация помощника будет завершена по идентификатору токена конца предложения. Этот формат доступен в виде шаблона чата с помощью метода applychattemplate(): Эта модель инструкций основана на Mistral-7B-v0.1, модели преобразователя со следующими вариантами архитектуры: — Внимание группового запроса — Внимание скользящего окна — Байтовый резервный токенизатор BPE Установка преобразователей из исходного кода должна решить проблему pip install git+https://github.com/huggingface/transformers Модель инструкций Mistral 7B быстрая демонстрация того, что базовую модель можно легко настроить для достижения превосходных характеристик. Это не…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Trelis
Теги: mistral, finetuned, conversational, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
