Kooten/Nethena-13B-4bpw-h8-exl2 - Каталог нейросетей
Генерация текста

Kooten/Nethena-13B-4bpw-h8-exl2

Добавлено:

My VRAM usage with 13B models are: I have rounded up, these arent exact numbers, this is also on a windows machine, they should be slightly lower on linux.

Модальности:
Генерация текста


Задача: Генерация текста
Автор: Kooten
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 2  |  Загрузок: 2

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.