Эта модель представляет собой доработанную версию google/medgemma-4b-it, которая подверглась процессу «удаления», чтобы уменьшить склонность генерировать вредный или нежелательный контент, с последующей тонкой настройкой инструкций для пользовательского набора данных с использованием Аксолотля. Процесс аблитерации был направлен на привитие определенного поведения (например, отказа от вредных запросов) путем определения и ортогонализации «направления отказа» в весах модели. За этим последовала точная настройка LoRA (Low-Rank Adaptation) для адаптации модели к новому набору данных, сохраняя при этом преимущества удаления и возможности базовой модели. Базовая модель: google/medgemma-4b-it Целевой набор данных уничтожения: mlabonne/harmfulbehaviours Базовый набор данных уничтожения: mlabonne/harmlessalpaca Платформа тонкой настройки:** Аксолотль Эта модель предназначена для настоящего медицинского использования без цензуры. Помощь в поиске медицинской информации на основе предоставленных инструкций. Формирование ответов на медицинские вопросы полезным и безопасным способом. Исследования по снижению вредных результатов в LLM при сохранении полезности для конкретных задач. Правильная точная настройка. Модель предназначена для следования инструкциям и предоставления информативных ответов в рамках обученного…
Модальности:
Генерация текста
Области применения:
Диалог / чат Медицина
Задача: Генерация текста
Автор: drwlf
Теги: gemma3, large-language-model, medical, instruction-following, axolotl, lora, abliteration, medgemma
Лайков: 6 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
