TurkuNLP/bloom-finnish-176b

Многоязычный генеративный предварительно обученный трансформатор с параметрами 176B и возможностью перевода на финский язык. Эта модель построена на предварительно обученном BLOOM, который затем дополнительно обучается с использованием комбинированного набора данных ROOTS + Финский (без взвешивания) для токенов 40B. Финский интернет-парсебанк https://turkunlp.org/finnishnlp.html mC4 колоссальный многоязычный, очищенный Common Crawl https://huggingface.co/datasets/mc4 Common Crawl Финский https://TODO Финская Википедия https://fi.wikipedia.org/wiki Lönnrot Projekti Lönnrot http://www.lonnrot.net/ ePub Национальная библиотека Коллекция «epub» Национальная библиотека Коллекция «lehdet» Suomi24 The Suomi 24 Corpus 2001–2020 http://urn.fi/urn:nbn:fi:lb-2021101527 Материалы и комментарии Reddit r/Suomi https://www.reddit.com/r/Suomi STT Архив Финского информационного агентства 1992–2018 гг. http://urn.fi/urn:nbn:fi:lb-2019041501 Архив финских новостей Yle за 2011–2018 гг. http://urn.fi/urn:nbn:fi:lb-2017070501 Архив финских новостей Yle за 2019–2020 гг. http://urn.fi/urn:nbn:fi:lb-2021050401 Архив новостей Yle Легко читаемый финский язык, 2011–2018 гг. http://urn.fi/urn:nbn:fi:lb-2019050901 Архив новостей Yle Легко читаемый финский язык, 2019–2020 гг. http://urn.fi/urn:nbn:fi:lb-2021050701 * ROOTS — оригинальный тренинг BLOOM…

Модальности:
Генерация текста

Задача: Генерация текста
Автор: TurkuNLP
Теги: bloom, text-generation-inference, endpoints_compatible
Лайков: 6  |  Загрузок: 15

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.