MaziyarPanahi/Mixtral-8x22B-Instruct-v0.1-GGUF - Каталог нейросетей
Генерация текста

MaziyarPanahi/Mixtral-8x22B-Instruct-v0.1-GGUF

Добавлено:
MaziyarPanahi/Mixtral-8x22B-Instruct-v0.1-GGUF

GGUF и квантовые модели здесь основаны на модели mistralai/Mixtral-8x22B-Instruct-v0.1. Вместо клонирования всего репозитория вы можете загрузить только те кванты, которые вам нужны, следующим образом: llamaloadmodelfromfile определит количество файлов и загрузит дополнительные тензоры из остальных файлов.

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям

Задача: Генерация текста
Автор: MaziyarPanahi
Теги: gguf, quantized, 2-bit, 3-bit, 4-bit, 5-bit, 6-bit, 8-bit
Лайков: 34  |  Загрузок: 976

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #2-bit #3-bit #4-bit #5-bit #6-bit #8-bit #gguf #quantized

Похожие модели (Генерация текста)

Генерация текста

yuanzhoulvpi/xiaoheizi-3b

1.模型名称:сяохэйцзы (小黑子),现在国内的大模型起的名字一个比一个厉害，那我们和别人做点不一样的，主打一个随意～ 2. 模型参数量:是一个参数量为3B的模型 3.型: 模型基于dollyv23b, 模型, 而dollyv23b, 模型, 本质上就是gptneox, 4. Место: BelleGroup/train1MCN, сообщение 5. Место: 6. GitHub:...

7
HF Подробнее
Генерация текста

OuteAI/Lite-Oute-1-65M-Instruct

Lite-Oute-1-65M-Instruct — экспериментальная сверхкомпактная модель серии Lite, основанная на архитектуре LLaMA и содержащая около 65 миллионов параметров. Основная...

19
HF Подробнее
Генерация текста

Bingguang/FunReason-MT

Модель FunReason-MT-4B — это высокопроизводительная модель большого языка (LLM), идеально настроенная для сложных многоэтапных вызовов функций (FC) и...

19
HF Подробнее
Генерация текста

allura-org/TQ2.5-14B-Neon-v1

Модель была обучена на наборе данных, состоящем из 77 миллионов токенов синтетических RP и данных генерации коротких рассказов....

22
HF Подробнее