Официальные инструкции по весам моделей для «Эффективной постоянной предварительной тренировки путем уменьшения разрыва в стабильности». Этот репозиторий содержит Llama-3-Physician-8B-Instruct, модель медицинского языка с 8 миллиардами параметров. Эта модель построена на основе Llama 3 и сначала постоянно подвергалась предварительному обучению на высококачественном медицинском подкорпусе из набора данных RefinedWeb, а затем настраивалась с учетом различных медицинских и общих инструкций. Мы также используем три стратегии, описанные в статье, для уменьшения разрыва в стабильности во время непрерывного предварительного обучения и настройки инструкций, что повышает производительность модели при выполнении медицинских задач и снижает потребление вычислений. Для медицинской классификации, извлечения отношений, вывода на естественном языке, задач обобщения у нас есть
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: YiDuo1999
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 72
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.