Среднеразмерная модель GPT2 (345М параметров), обученная с нуля на голландском языке, с перплексией 15.1 на очищенном голландском mC4. Вы можете использовать эту модель GPT2 напрямую с конвейером для генерации текста. «In Antwerpen heeft zich gisteren» — «een драматический ontknoping voorgedaan in de Vlaamse deelregering. De VLD, die sinds afgelopen woensdag aan het bewind is in Vlaams-Waals gebied (de zogenaamde gewestelijke en niet rechtstreeks Met Vlaanderen Samenwerkende gewesten), krijgt toch geen meerderheidszetels bij verkiezingen voor gemeenteraadsverkiezingen в октябре или ноябре volgend jaar в Westmalle, Berchem, Tervuren enz., aldus premier Jean-Pierre Van Cauwenberghe van Wallonië vandaag» * Токенизатор BPE обучен с нуля для нидерландского языка на mC4 nl, очищен с использованием сценариев из примеры Huggingface Transformers Flax. Эта модель была обучена на полной конфигурации (33B токенов) очищенного голландского mC4, который является оригинальным mC4, за исключением документов, содержащих слова из избранного голландского и английского списка грязных нецензурных и других плохих слов. Предложения с менее чем 3 словами удаляются. Предложения со словом длиной более 1000 символов удаляются. Документы с…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: yhavinga
Теги: jax, tensorboard, gpt2, gpt2-medium, nl, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 159
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
