Модель большого языка Mistral-7B-Instruct-v0.2 (LLM) представляет собой улучшенную версию Mistral-7B-Instruct-v0.1 с точными настройками. Для получения полной информации об этой модели, пожалуйста, прочитайте нашу статью и опубликуйте сообщение в блоге. Этот репозиторий содержит веса в формате npz, подходящем для использования с платформой Apple MLX. Остальная часть карты модели была скопирована из исходного репозитория. Чтобы использовать точную настройку инструкций, ваше приглашение должно быть окружено токенами [INST] и [/INST]. Самая первая инструкция должна начинаться с идентификатора начала предложения. Следующие инструкции не должны. Генерация помощника будет завершена по идентификатору токена конца предложения. Этот формат доступен в виде шаблона чата с помощью метода applychattemplate(): Эта модель инструкций основана на Mistral-7B-v0.1, модели преобразователя со следующими вариантами архитектуры: — Внимание группового запроса — Внимание скользящего окна — Байтовый резервный токенизатор BPE Установка преобразователей из исходного кода должна решить проблему pip install git+https://github.com/huggingface/transformers Модель инструкций Mistral 7B быстрая демонстрация того, что базовую модель можно легко настроить для достижения превосходных характеристик. Он не имеет…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: mlx-community
Теги: mlx, mistral
Лайков: 24 | Загрузок: 1,189
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
