Эта модель представляет собой доработанную версию microsoft/Phi-4-multimodal-instruct для 600-часового набора аудиоданных в Турции, обученного для одной эпохи из-за ограничений ресурсов. Включение исходного языка во время вывода помогает уменьшить галлюцинации и повысить точность даже при использовании базовой модели. Эта модель была доработана с использованием той же подсказки. — Результаты оценки: — До тонкой настройки: — WER: 127,29 — CER: 78,22 — После тонкой настройки: — WER: 47,57 — CER: 20,52 Загрузите конфигурацию генерации и процессор` из базовой модели в качестве быстрого исправления для использования настроек генерации по умолчанию. Во время обучения использовались следующие гиперпараметры: — скорость обучения: 1e-05 — trainbatchsize: 4 — evalbatchsize: 8 — начальное число: 42 — оптимизатор: используйте OptimizerNames.ADAMWTORCH с betas=(0.9,0.95) и epsilon=1e-07 иOptimargs=No дополнительных аргументов оптимизатора — lrschedulertype: линейный — lrschedulerwarmupsteps: 5000 — numepochs: 1 — mixprecision_training: Native AMP — Transformers 4.46.1 — Pytorch 2.5.1+cu124 — Наборы данных 3.3.2 — Токенизаторы 0.20.3
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ysdede
Теги: tensorboard, phi4mm, generated_from_trainer, conversational, custom_code
Лайков: 5 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
