— Название: BiMediX — Версия: 1.0 — Тип: Двуязычная медицинская смесь экспертов, большая языковая модель (LLM) — Языки: арабский — Архитектура модели: Mixtral-8x7B-Instruct-v0.1 — Данные обучения: BiMed1.3M-Arabic, набор данных на арабском языке с разнообразными медицинскими взаимодействиями. — Основное использование: медицинское взаимодействие на английском и арабском языках. — Возможности: MCQA, закрытый контроль качества и чаты. — Набор данных: BiMed1.3M-арабский. — Адаптация QLoRA: реализует метод адаптации низкого ранга, включающий обучаемые веса адаптеров низкого ранга в эксперты и сеть маршрутизации. Это приводит к тренировке около 4% исходных параметров. — Ресурсы для обучения: модель прошла обучение по корпусу арабского языка. — Потенциальные проблемы: галлюцинации, токсичность, стереотипы. — Использование: Только в исследовательских целях. — Доступность: репозиторий BiMediX на GitHub. — arxiv.org/abs/2402.13253 Сара Пьери, Сахал Шаджи Муллапилли, Фахад Шахбаз Хан, Рао Мухаммад Анвер Салман Хан, Тимоти Болдуин, Хишам Чолаккал Университет искусственного интеллекта Мохамеда бен Заида (MBZUAI)
Модальности:
Генерация текста
Области применения:
Диалог / чат Медицина
Задача: Генерация текста
Автор: BiMediX
Теги: mixtral, feature-extraction, medical, conversational, ar, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
