Это тонкая настройка базовой модели unsloth/gpt-oss-20b, оптимизированной для генерации обоснованных биомедицинских ответов. В своих выводах он подчеркивает цепочку рассуждений (CoT), что делает его подходящим для приложений, включающих аналитические дискуссии, ответы на медицинские вопросы и логические разбивки биомедицинских тем. Модель была точно настроена с использованием QLoRA с Unsloth для повышения эффективности, ориентируясь на баланс производительности и использования ресурсов. Модель представлена в формате MXFP4 GGUF для совместимости с llama.cpp, Ollama или LM Studio. Проверьте также страницу github домашней страницы модели. — Базовая модель: unsloth/gpt-oss-20b (MXFP4 quantized) — Метод тонкой настройки: QLoRA с рангом=64, таргетинг на слои MoE — Эпохи обучения: 6 — Набор данных: Набор данных PubMedQA (pqal.jsonl) мой собственный псевдомеченый набор данных (~7000 примеров, адаптированный для CoT) — Максимальная длина последовательности: 4096 — Оптимизатор: AdamW 8-bit — Скорость обучения: 1e-4 Эта модель предназначена для: — генерации биомедицинских ответов со структурированным рассуждением. — Образовательные инструменты для ответа на медицинские вопросы и критического анализа. — Интерактивные чат-приложения для обсуждения здоровья, исследований или клинических тем. Пример использования: Реагирование на…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: Entz
Теги: gguf, PudMed, biomedical, reasoning, fine-tuned, qlora, unsloth, gpt-oss-20b
Лайков: 3 | Загрузок: 38
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
