Небольшая медицинская доработка на базе LFM2-350M от LiquidAI. Этот контрольно-пропускной пункт специализируется на базе 350M LFM2 для медицинских вопросов и ответов, а также расширенного поиска с использованием облегченного рецепта, предназначенного для ноутбуков и периферийных устройств. > ⚠️Медицинская безопасность: эта модель не предназначена для клиницистов. Он может вызывать галлюцинации, поэтому его не следует использовать для диагностики или лечения. Всегда обращайтесь за квалифицированным медицинским наблюдением. — Разработан для вывода на устройстве, с сильной задержкой ЦП и шаблоном, похожим на ChatML. — Поддерживает использование инструментов со специальными токенами (, и т. д.). Полный шаблон и примеры см. на базовой карточке. 1. Домен SFT (медицина + инструменты) — вопросы и ответы в стиле инструкций из открытых медицинских источников и синтетических преобразований. — Использование инструментов (поиск) по контролируемым трассировкам для обучения шаблонам вызова функций. 2. Согласование предпочтений (DPO) — прямая оптимизация предпочтений с использованием предпочтений, полученных из MedMCQA, для смещения в сторону клинически обоснованных коротких ответов. — Обоснование: DPO прост, стабилен в небольших масштабах и хорошо подходит для кратких медицинских ответов. 3. Объединение моделей (Arcee Fusion). Для окончательного объединения используется Arcee Fusion в MergeKit, который выборочно объединяет параметры, чтобы избежать чрезмерного усреднения, и может быть настроен с помощью метода слияния: arceefusion. >…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mkurman
Теги: gguf, lfm2, mergekit, merge, conversational, endpoints_compatible
Лайков: 6 | Загрузок: 39
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
