DS-Archive/Mixtral-8x7B-Instruct-v0.1-limarp-exl2

Exllama v2 quant of Doctor-Shotgun/Mixtral-8x7B-Instruct-v0.1-limarp Branches: — main: measurement.json calculated at 2048 token calibration rows on exl2 default calibration dataset — 3.5bpw-h6: 3.5 decoder bits per weight, 6 head bits — ideal for 24gb VRAM — 6.0bpw-h6: 6 decoder bits per weight, 6 head bits — ideal for 48gb VRAM

Модальности:
Генерация текста

Области применения:
Следование инструкциям

Задача: Генерация текста
Автор: DS-Archive
Теги: mixtral, en
Лайков: 3 | Загрузок: 3

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

TheDrummer/Moistral-11B-v3

Представляем команду BeaverAI: Drummer, ToastyPigeon, xzuyn, MarsupialAI, Twistedshadows и concedo. Модель eRP, которая поразит вас богатым и освежающим...

Генерация текста

lmms-lab/llava-next-interleave-qwen-7b-dpo

Тип модели: LLaVA-Next Interleave — это чат-бот с открытым исходным кодом, обученный путем тонкой настройки LLM на мультимодальных...

Генерация текста

jingyaogong/minimind-3o-moe

Полную документацию можно найти в репозитории GitHub: https://github.com/jingyaogong/minimind-o. Модальности:Генерация текста Анализ изображений Синтез речи Мультимодальность Области применения:Диалог /...

Генерация текста

bartowski/c4ai-command-r-plus-GGUF

Исходная модель: https://huggingface.co/CohereForAI/c4ai-command-r-plus Отличная статья с диаграммами, показывающими различные характеристики, предоставлена Artefact2 здесь. Первое, что нужно выяснить, это...