Это сегментированная версия Mistral-7B-Instruct-v0.1, поэтому вы можете использовать ее при ограниченной памяти ЦП. Модель большого языка Mistral-7B-Instruct-v0.1 (LLM) представляет собой тонко настроенную версию генеративной текстовой модели Mistral-7B-v0.1 с использованием различных общедоступных наборов данных разговоров. Для получения полной информации об этой модели прочитайте сообщение в нашем блоге о выпуске. Чтобы использовать точную настройку инструкций, ваше приглашение должно быть окружено токенами [INST] и [INST]. Самая первая инструкция должна начинаться с идентификатора начала предложения. Следующие инструкции не должны. Генерация помощника будет завершена по идентификатору токена конца предложения. Эта модель инструкций основана на Mistral-7B-v0.1, модели-трансформере со следующими вариантами архитектуры: — Внимание по групповому запросу — Внимание по скользящему окну — Резервный байтовый токенизатор BPE Альберт Цзян, Александр Саблероллес, Артур Менш, Крис Бэмфорд, Девендра Сингх Чаплот, Диего де лас Касас, Флориан Брессан, Джанна Лендьель, Гийом Лампле, Лелио Ренар Лаво, Люсиль Солнье, Мари-Анн Лашо, Пьер Сток, Тевен Ле Скао, Тибо Лавриль, Томас Ван, Тимоти Лакруа, Уильям Эль Сайед.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: filipealmeida
Теги: llama, finetuned, conversational, text-generation-inference, endpoints_compatible
Лайков: 14 | Загрузок: 855
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
