— Это квантованная версия mistralai/Mistral-7B-Instruct-v0.3, созданная с использованием llama.cpp. Модель большого языка Mistral-7B-Instruct-v0.3 (LLM) представляет собой усовершенствованную версию инструкций Mistral-7B-v0.3. Mistral-7B-v0.3 имеет следующие изменения по сравнению с Mistral-7B-v0.2 — Расширен словарь до 32768 — Поддерживает токенизатор v3 — Поддерживает вызов функций После установки mistralinference в вашей среде должна быть доступна команда CLI mistral-chat`. Вы можете общаться с моделью, используя Если вы хотите использовать трансформеры Hugging Face для генерации текста, вы можете сделать что-то вроде этого. Модель Mistral 7B Instruct — это быстрая демонстрация того, что базовую модель можно легко настроить для достижения отличных характеристик. Никаких механизмов модерации у него нет. Мы с нетерпением ждем возможности совместно с сообществом найти способы заставить модель точно соблюдать ограничения, позволяя развертывать ее в средах, требующих модерируемых выходных данных. Альбер Цзян, Александр Саблероль, Алексис Такне, Антуан Ру, Артур Менш, Одри Эрблин-Ступ, Батист Бут, Бодуэн де Монико, Бланш Савари, Bam4d, Кэролайн Фельдман, Девендра Сингх Шаплот, Диего де лас Касас, Элеонора Арселин, Эмма Бу…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, mistral, endpoints_compatible, conversational
Лайков: 4 | Загрузок: 634
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
