Neko-Institute-of-Science/LLaMA-65B-4bit-32g - Каталог нейросетей
Генерация текста

Neko-Institute-of-Science/LLaMA-65B-4bit-32g

Добавлено:
Neko-Institute-of-Science/LLaMA-65B-4bit-32g

Я попробовал сделать размер группы 16, но это закончилось неудачно, поэтому я выбрал 32g. К вашему сведению, я могу запустить это в полном контексте на своем A6000.

Модальности:
Генерация текста


Задача: Генерация текста
Автор: Neko-Institute-of-Science
Теги: llama, endpoints_compatible
Лайков: 10  |  Загрузок: 16

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.