ISTA-DASLab/Meta-Llama-3.1-8B-Instruct-AQLM-PV-2Bit-1×16-hf - Каталог нейросетей
Генерация текста

ISTA-DASLab/Meta-Llama-3.1-8B-Instruct-AQLM-PV-2Bit-1×16-hf

Добавлено:
ISTA-DASLab/Meta-Llama-3.1-8B-Instruct-AQLM-PV-2Bit-1×16-hf

Официальное квантование AQLM мета-ламы/Meta-Llama-3.1-8B-Instruct, настроенное с помощью PV-Tuning. Для этого квантования мы использовали одну кодовую книгу из 16 бит и размер группы из 8. Загружена новая версия, настроенная на большее количество данных, дольше и с лучшим качеством.

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям


Задача: Генерация текста
Автор: ISTA-DASLab
Теги: llama, aqlm, facebook, meta, llama-3, conversational, text-generation-inference, endpoints_compatible
Лайков: 8  |  Загрузок: 34

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.