TeeZee/BigMaid_20B_v1.0-bpw4.0-h6-exl2 - Каталог нейросетей
Генерация текста

TeeZee/BigMaid_20B_v1.0-bpw4.0-h6-exl2

Добавлено:
TeeZee/BigMaid_20B_v1.0-bpw4.0-h6-exl2

Должно работать на картах VRAM объемом 12 ГБ в веб-интерфейсе с длиной контекста, установленной на 4096, загрузчиком ExLlamav2HF и кэш8бит = True. Все комментарии очень приветствуются, скачивайте, тестируйте, и если вы цените мою работу, рассмотрите возможность покупки мне моего топлива:

Модальности:
Генерация текста

Задача: Генерация текста
Автор: TeeZee
Теги: llama, merge, not-for-all-audiences, text-generation-inference, endpoints_compatible
Лайков: 4  |  Загрузок: 24

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #endpoints_compatible #llama #merge #not-for-all-audiences #text-generation-inference

Похожие модели (Генерация текста)

Генерация текста

EleutherAI/pythia-70m-v0

Pythia Scaling Suite — это набор моделей, разработанных для облегчения исследования интерпретируемости. Он содержит два набора по восемь...

4.4k
HF Подробнее
Генерация текста

YanweiLi/MGM-8x7B-HD

Платформа поддерживает серию плотных моделей и моделей большого языка (LLM) MoE от 2B до 34B с одновременным пониманием,...

17
HF Подробнее
Генерация текста

migtissera/Tess-v2.5.2-Qwen2-72B

Это усовершенствованная версия Tess-v2.5 с измененной скоростью обучения и подмножеством набора данных Tess-v2.5. Модель полностью отличается от Tess-v2.5....

789
HF Подробнее
Генерация текста

jondurbin/airoboros-c34b-3.1.2

Еще одна экспериментальная модель, использующая в основном синтетические данные, сгенерированные airoboros. В этой модели используется формат чата ламы-2,...

96
HF Подробнее