Исходная базовая модель: meta-llama/Meta-Llama-3.1-70B-Instruct. Ссылка: https://huggingface.co/meta-llama/Meta-Llama-3.1-70B-Instruct Исходные коды: https://github.com/vkola-lab/medpodgpt/tree/main/quantization.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: shuyuej
Теги: llama, conversational, text-generation-inference, endpoints_compatible, 4-bit, gptq
Лайков: 3 | Загрузок: 33
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.