ISTA-DASLab/Mixtral-8x7B-Instruct-v0_1-AQLM-2Bit-1×16-hf - Каталог нейросетей
Генерация текста

ISTA-DASLab/Mixtral-8x7B-Instruct-v0_1-AQLM-2Bit-1×16-hf

Добавлено:
ISTA-DASLab/Mixtral-8x7B-Instruct-v0_1-AQLM-2Bit-1×16-hf

Официальное AQLM-квантование mistralai/Mixtral-8x7B-Instruct-v0.1. Чтобы узнать больше о выводе, а также о том, как самостоятельно квантовать модели, обратитесь к официальному репозиторию GitHub.

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям

Задача: Генерация текста
Автор: ISTA-DASLab
Теги: mixtral, conversational, text-generation-inference, endpoints_compatible, aqlm
Лайков: 19  |  Загрузок: 11

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #aqlm #conversational #endpoints_compatible #mixtral #text-generation-inference

Похожие модели (Генерация текста)

Генерация текста

sbintuitions/sarashina2.2-1b-instruct-v0.1

В этом репозитории представлены модели японского языка, обученные SB Intuitions. — Тип модели: Авторегрессионная языковая модель. — Язык(и):...

732
HF Подробнее
Генерация текста

neoai-inc/Llama-3-neoAI-8B-Chat-v0.1

Лама 3 neoAI 8B Чат v0.1は，Мета-Лама-3-8B-Инструктをベースとして日本語能力を強化するために事後学習を行なったモデルです． Llama 3 распространяется под лицензией сообщества Meta LLAMA 3, авторские права (c)...

5
HF Подробнее
Генерация текста

Qwen/Qwen3-14B-MLX-4bit

Qwen3 — это последнее поколение больших языковых моделей в серии Qwen, предлагающее полный набор моделей с плотным доступом...

2k
HF Подробнее