Model that is fine-tuned in 4-bit precision using QLoRA on timdettmers/openassistant-guanaco and databricks/databricks-dolly-15k. Sharded as well to be used on a free Google Colab instance. It can be easily imported using the AutoModelForCausalLM class from transformers:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: guardrail
Теги: llama, text-generation-inference, endpoints_compatible, 4-bit
Лайков: 2 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.