Buffala-LoRA — это модель LLaMA с 7B параметрами, настроенная для следования инструкциям. Он обучен на базе данных Stanford Alpaca (TH Translated), Wisesignt, WikiTH, Pantip и IAppQ&A и использует реализацию Huggingface LLaMA. Для получения дополнительной информации посетите сайт проекта. — В модели все еще не хватает значительного объема мировых знаний, поэтому необходимо ее точно настроить на более крупных тайских наборах данных. > Следующая версия: CCNet,OSCAR,thWiki. — В настоящее время подсказка для перевода отсутствует. Мы планируем в ближайшее время доработать модель на тайско-английском наборе данных SCB. — Модель хорошо работает с агентом поиска LangChain (Serpapi), который служит исправлением для мировых знаний. > Планирование пространств с демонстрацией цепочки поиска — отсутствуют возможности чата, ждём внедрения LangChain. — Демо-версия Colab. — Github для наборов данных и учебного блокнота. «`python import torch из peft import PeftModel из трансформаторов import GenerationConfig, LlamaForCausalLM, LlamaTokenizer tokenizer = LlamaTokenizer.frompretrained(«decapoda-research/llama-7b-hf») model = LlamaForCausalLM.frompretrained( «decapoda-research/llama-7b-hf», loadin8bit=True, torchdtype=torch.float16, devicemap=»auto», ) model =…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Thaweewat
Теги: adapter-transformers, instruction-finetuning, th
Лайков: 10 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
