TechxGenus/Mistral-Large-Instruct-2407-AWQ - Каталог нейросетей
Генерация текста

TechxGenus/Mistral-Large-Instruct-2407-AWQ

Добавлено:
TechxGenus/Mistral-Large-Instruct-2407-AWQ

Рекомендуется использовать mistralai/Mistral-Large-2407 с выводом мистраля. Чтобы увидеть фрагменты кода ВЧ-трансформаторов, продолжайте прокручивать. После установки mistralinference в вашей среде должна быть доступна команда CLI mistral-chat. Учитывая размер этой модели, вам понадобится узел с несколькими графическими процессорами (кумулятивной видеопамятью более 300 ГБ). Если на вашем компьютере 8 графических процессоров, вы можете общаться с моделью, используя > [!ВАЖНО] > ПРИМЕЧАНИЕ. До выхода новой версии вам необходимо установить трансформеры из исходного кода: > Если вы хотите использовать трансформеры Hugging Face для генерации текста, вы можете сделать что-то вроде этого. Модель Mistral Large — это быстрая демонстрация того, что базовую модель можно легко настроить для достижения привлекательных характеристик. Никаких механизмов модерации у него нет. Мы с нетерпением ждем возможности совместно с сообществом найти способы заставить модель точно соблюдать ограничения, позволяя развертывать ее в средах, требующих модерируемых выходных данных. Альбер Цзян, Александр Саблероль, Алексис Такне, Алок Котари, Антуан Ру, Артур Менш, Одри Херблин-Ступ, Огюстен Гарро, Остин Бирки, Bam4d, Батист Бут, Бодуэн де Моноко, Бланш Савари, Кэрол Рамбо, Кэролайн…

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям


Задача: Генерация текста
Автор: TechxGenus
Теги: mistral, conversational, en, fr, de, es, it, pt
Лайков: 11  |  Загрузок: 53

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.