Описание модели — Архитектура — Ограничения использования модели обучающих данных nmitchko/medguanaco-lora-65b-GPTQ — это большая языковая модель, специально настроенная для задач в области медицины. В его основе лежит Guanaco LORA компании LLaMA весом при параметрах 65В. Основная цель этой модели — улучшить задачи по ответам на вопросы и медицинскому диалогу. Он был обучен с использованием LoRA и квантован, чтобы уменьшить объем памяти. Шаги для загрузки этой модели: 1. Загрузите Guanaco-65-GPTQ https://huggingface.co/TheBloke/guanaco-65B-GPTQ. Я рекомендую использовать text-generation-ui, чтобы проверить ее: https://github.com/oobabooga/text-generation-webui/tree/main 2. Загрузите этот LoRA и примените его к модели 3. убедитесь, что —monkey-path` включен в text-generation-ui, 4-битные инструкции здесь.md) Модель может не работать эффективно за пределами медицинской сферы. Данные по обучению в первую очередь ориентированы на уровень знаний студентов-медиков, что может привести к ограничениям при удовлетворении потребностей сертифицированных врачей. Модель не тестировалась в реальных условиях, поэтому ее эффективность и точность в настоящее время неизвестны. Оно никогда не должно использоваться в качестве замены заключения врача и должно быть…
Модальности:
Генерация текста
Области применения:
Медицина
Задача: Генерация текста
Автор: nmitchko
Теги: medical, en, endpoints_compatible
Лайков: 9 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
