— Название: BiMediX — Версия: 1.0 — Тип: Большая языковая модель двуязычной медицинской смеси экспертов (LLM) — Языки: английский — Архитектура модели: Mixtral-8x7B-Instruct-v0.1 — Данные обучения: BiMed1.3M-English, двуязычный набор данных с разнообразными медицинскими взаимодействиями. — Основное использование: медицинское взаимодействие на английском и арабском языках. — Возможности: MCQA, закрытый контроль качества и чаты. — Набор данных: BiMed1.3M – английский, миллион специализированных токенов здравоохранения. — Адаптация QLoRA: реализует метод адаптации низкого ранга, включающий обучаемые веса адаптеров низкого ранга в эксперты и сеть маршрутизации. Это приводит к тренировке около 4% исходных параметров. — Ресурсы для обучения: модель прошла обучение примерно на 288 миллионах токенов из корпуса BiMed1.3M-English. — Тестовые показатели: демонстрирует превосходную производительность по сравнению с базовыми моделями в медицинских тестах. Это улучшение связано с передовыми методами обучения и обширным набором данных, обеспечивающими способность модели обрабатывать сложные медицинские запросы и предоставлять точную информацию в области здравоохранения. — Потенциальные проблемы: галлюцинации, токсичность, стереотипы. — Использование: Только в исследовательских целях. -…
Модальности:
Генерация текста
Области применения:
Диалог / чат Медицина
Задача: Генерация текста
Автор: BiMediX
Теги: mixtral, medical, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
