casperhansen/mixtral-instruct-awq - Каталог нейросетей
Генерация текста

casperhansen/mixtral-instruct-awq

Добавлено:
casperhansen/mixtral-instruct-awq

Это рабочая версия Mixtral Instruct с квантованием AWQ. По состоянию на 02.11.2024 https://huggingface.co/TheBloke/Mixtral-8x7B-Instruct-v0.1-AWQ не работает, поэтому вместо этого используйте этот репозиторий.

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям

Задача: Генерация текста
Автор: casperhansen
Теги: mixtral, conversational, text-generation-inference, endpoints_compatible, 4-bit, awq
Лайков: 43  |  Загрузок: 1,979

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #4-bit #awq #conversational #endpoints_compatible #mixtral #text-generation-inference

Похожие модели (Генерация текста)

Генерация текста

EVA-UNIT-01/EVA-Qwen2.5-14B-v0.2

Модель специалиста по ролевой игре и написанию историй, полнопараметрическая точная настройка Qwen2.5-14B на смеси синтетических и естественных данных....

668
HF Подробнее
Генерация текста

prithivMLmods/GWQ-9B-Preview2

GWQ2 – Gemma с вопросами Prev — это семейство легких современных открытых моделей от Google, созданных с использованием тех же...

14
HF Подробнее
Генерация текста

beomi/kykim-gpt3-kor-small_based_on_gpt2

— Обновление от 2021.11.17: добавлена ​​встроенная поддержка токенизатора BERT (работает с AutoTokenizer, конвейером). Используется 70 ГБ набора текстовых данных...

3.1k
HF Подробнее
Генерация текста

disinfozone/Disinfo4_mistral-ft-optimized-1218

Disinfo4mistral-ft-optimized-1218 — это экспериментальная языковая модель, разработанная для синтеза и анализа сложных повествований в сферах континентальной философии, теорий...

4
HF Подробнее