ISTA-DASLab/Meta-Llama-3.1-8B-AQLM-PV-2Bit-1×16-hf

Official AQLM quantization of meta-llama/Meta-Llama-3.1-8B finetuned with PV-Tuning. For this quantization, we used 1 codebook of 16 bits and groupsize of 8. Uploaded new version finetuned on more data for longer with better quality.

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: ISTA-DASLab
Теги: llama, facebook, meta, llama-3, conversational, text-generation-inference, endpoints_compatible, aqlm
Лайков: 3 | Загрузок: 24

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

Nohobby/MS-Schisandra-22B-v0.2

Генерация текста

open-r1/OpenR1-Distill-7B

OpenR1-Distill-7B — это постобученная версия Qwen/Qwen2.5-Math-7B на Mixture-of-Thoughts: тщательно подобранный набор данных из 350 000 проверенных трассировок рассуждений, извлеченных...

Генерация текста

google/DiarizationLM-8b-Fisher-v1

Модель DiarizationLM, настроенная на обучающем подмножестве корпуса Фишера. Базовая модель: unsloth/llama-3-8b-bnb-4bit Сценарии тонкой настройки: https://github.com/google/speaker-id/tree/master/DiarizationLM/unsloth Эта модель точно...

Генерация текста

hyunjae/skt-kogpt2-kullm-v2

교육용으로 학습 한 간단한 instruction fine-tuning 모델 (updated 2023/08/06) — Pretrained model: skt/kogpt2-base-v2 (https://github.com/SKT-AI/KoGPT2) — Training data: kullm-v2(https://huggingface.co/datasets/nlpai-lab/kullm-v2)...