Этот репозиторий содержит адаптер низкого ранга для Falcon-7b, подходящий для набора данных Stanford Alpaca, арабской версии Yasbok/Alpacaarabicinstruct. — Тип модели: только причинный декодер — Язык(и): арабский — Базовая модель: Falcon-7B (Лицензия: Apache 2.0) — Набор данных: Yasbok/Alpacaarabicinstruct — Лицензия(и): Apache 2.0, унаследованная от «Базовой модели». Модель была точно настроена с 8-битной точностью с использованием 🤗 peft-адаптеров, преобразователей и бит-сэндбайтов. Обучение основывалось на методе QLoRA, представленном в этой статье. Запуск занял около 3 часов и был выполнен на рабочей станции с одним графическим процессором NVIDIA A100-SXM и 37 ГБ доступной памяти. Мы рекомендуем пользователям этой модели установить ограждения и принять соответствующие меры предосторожности при любом производственном использовании. — Версия CUDA: 12.0 — Аппаратное обеспечение: 1 A100-SXM — Макс. память: {0: «37GB»} — Карта устройства: {«»: 0} — torch: 2.0.1+cu118 — трансформаторы: 4.30.0.dev0 — peft: 0.4.0.dev0 — ускорение: 0.19.0 — биты и байты: 0.39.0 — эйнопс: 0.6.1
Модальности:
Генерация текста
Задача: Генерация текста
Автор: alielfilali01
Теги: peft, ar
Лайков: 8 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
