GPTQ квантованная версия модели Mistral-Large-Instruct-2407. Рекомендуется использовать mistralai/Mistral-Large-2407 с мистральным помехой. Для фрагментов кода высокочастотных трансформаторов, пожалуйста, продолжайте прокручивать. После установки mistralinference в вашей среде должна быть доступна команда CLI для мистрального чата. Учитывая размер этой модели, вам понадобится узел с несколькими графическими процессорами (более 300 ГБ совокупной vRAM). Если на вашей машине 8 графических процессоров, вы можете общаться с моделью, используя > [!ВАЖНО] > ПРИМЕЧАНИЕ: Пока не будет выпущен новый релиз, вам нужно установить трансформаторы из источника: > Если вы хотите использовать трансформаторы Hugging Face для генерации текста, вы можете сделать что-то подобное. Модель Mistral Large — это быстрая демонстрация того, что базовую модель можно легко настроить для достижения непревзойденной производительности. Механизмов модерации нет. Мы с нетерпением ждем возможности пообщаться с сообществом о том, как сделать так, чтобы модель точно соблюдала защитные ограждения, позволяя развертывать ее в средах, требующих модерируемых результатов. Альберт Цзян, Александр Саблейроль, Алексис Такне, Алок Котари, Антуан Ру, Артур Менш, Одри Херблин-Ступ, Огюстен Гарро, Остин Бирки, Bam4d, Батист Бут,…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: TechxGenus
Теги: mistral, conversational, en, fr, de, es, it, pt
Лайков: 3 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
