kingbri/airo-llongma-2-13B-16k-GPTQ - Каталог нейросетей
Генерация текста

kingbri/airo-llongma-2-13B-16k-GPTQ

Добавлено:
kingbri/airo-llongma-2-13B-16k-GPTQ

Чтобы запустить эту модель, убедитесь, что для параметра compressposemb установлено значение 4, чтобы применить правильные параметры масштабирования веревки. Maxctxlen равен 16384. Ветви: — main: 4 бита, размер группы 128, порядок действий ложный — 4bit-32g-actorder: 4 бита, размер группы 32, порядок действий истинный

Модальности:
Генерация текста

Задача: Генерация текста
Автор: kingbri
Теги: llama, en, endpoints_compatible
Лайков: 7  |  Загрузок: 3

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #en #endpoints_compatible #llama

Похожие модели (Генерация текста)

Генерация текста

victunes/TherapyBeagle-11B-v2

GGUF: https://huggingface.co/victunes/TherapyBeagle-11B-v2-GGUF Тренировался на основе vicgalle/CarbonBeagle-11B-truthy с использованием модифицированной версии jerryjalapeno/nart-100k-synthetic. Мы надеемся, что TherapyBeagle будет полезен, полезен...

19
HF Подробнее
Генерация текста

pkupie/lawyer-llama-13b-v2

Подробности о репозитории Github: https://github.com/AndrewZhe/lawyer-llama. Использование: https://github.com/AndrewZhe/lawyer-llama/blob/main/demo/runinferencev2.md. Модальности:Генерация текста Задача: Генерация текста Автор: pkupie Теги: llama, zh, text-generation-inference,...

1.1k
HF Подробнее
Генерация текста

nsfwthrowitaway69/Venus-103b-v1.1

— Результат чередования слоев Sao10K/Euryale-1.3-L2-70B, migtissera/SynthIA-70B-v1.2b и Xwin-LM/Xwin-LM-70B-V0.1 с использованием mergekit. — Полученная модель имеет 120 слоев и...

6
HF Подробнее