ISTA-DASLab/Llama-2-7b-AQLM-2Bit-1×16-hf - Каталог нейросетей
Генерация текста

ISTA-DASLab/Llama-2-7b-AQLM-2Bit-1×16-hf

Добавлено:
ISTA-DASLab/Llama-2-7b-AQLM-2Bit-1×16-hf

UPD (20.02.2024). Мы применили глобальную точную настройку поверх квантованной модели и улучшили результаты по сравнению с первой версией. Чтобы узнать больше о выводе, а также о том, как самостоятельно квантовать модели, обратитесь к официальному репозиторию GitHub.

Модальности:
Генерация текста


Задача: Генерация текста
Автор: ISTA-DASLab
Теги: llama, text-generation-inference, endpoints_compatible, aqlm
Лайков: 5  |  Загрузок: 109

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.