GPT-2 Base Thai — это причинно-следственная языковая модель, основанная на модели OpenAI GPT-2. Он был обучен на наборе данных OSCAR, в частности на неперетасованном-дублированном подмножестве. Модель была обучена с нуля и достигла потери оценки 1,708 и сложности оценки 5,516. Эта модель была обучена с использованием платформы HuggingFace Flax и является частью недели сообщества JAX/Flax, организованной HuggingFace. Все обучение проводилось на виртуальной машине TPUv3-8, спонсируемой командой Google Cloud. Все необходимые скрипты, используемые для обучения, можно найти на вкладке «Файлы и версии», а также в метриках обучения, регистрируемых через Tensorboard. Модель обучалась в течение 3 эпох, и ниже представлен окончательный результат после окончания обучения.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: flax-community
Теги: jax, tensorboard, gpt2, gpt2-base-thai, th, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 2,515
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
