Я попробовал сделать размер группы 16, но это закончилось неудачно, поэтому я выбрал 32g. К вашему сведению, я могу запустить это в полном контексте на своем A6000.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Neko-Institute-of-Science
Теги: llama, endpoints_compatible
Лайков: 10 | Загрузок: 16
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.