Mixtral-8x7B-Instruct-v0_1-AQLM-2Bit-1×16-hf
Официальное AQLM-квантование mistralai/Mixtral-8x7B-Instruct-v0.1. Чтобы узнать больше о выводе, а также о том, как самостоятельно квантовать модели, обратитесь к...
Метка: aqlm
Meta-Llama-3-70B-Instruct-AQLM-2Bit-1×16
Официальное AQLM-квантование мета-ламы/Meta-Llama-3-70B-Instruct. Модальности:Генерация текста Области применения:Диалог / чат Следование инструкциям Задача: Генерация текста Автор: ISTA-DASLab Теги: llama,...
Mixtral-8x7b-AQLM-2Bit-1×16-hf
Чтобы узнать больше о выводе, а также о том, как самостоятельно квантовать модели, обратитесь к официальному репозиторию GitHub....
miqu-1-70b-AQLM-2Bit-1×16-hf
Чтобы узнать больше о выводе, а также о том, как самостоятельно квантовать модели, обратитесь к официальному репозиторию GitHub....
Meta-Llama-3.1-70B-Instruct-AQLM-PV-2Bit-1×16
Официальное квантование AQLM мета-ламы/Meta-Llama-3.1-70B-Instruct, настроенное с помощью PV-Tuning. Для этого квантования мы использовали одну кодовую книгу из 16...