Мы с гордостью представляем семейство моделей GaMS (Generative Model for Slovene). Версия 1B основана на модели Facebook OPT и адаптирована для словенского языка. GaMS-1B использует токенизатор BPE с размером словаря 80.000. Токенизатор обучался на словенских, английских и хорватских данных. Это настраиваемая по инструкции версия модели. Модель была разработана в рамках исследовательской программы PoVeJMo (Adaptive Natural Language Processing with Large Language Models), в частности, в рамках исследовательского проекта под названием SloLLaMai — Open-access computationally effective models for Slovenian. Программа финансируется в рамках Плана восстановления и устойчивости Словенским агентством по исследованиям и инновациям (ARIS) и NextGenerationEU. Авторы также отмечают финансовую поддержку со стороны Словенского агентства по исследованиям и инновациям (основное финансирование исследований № P6-0411 — Языковые ресурсы и технологии для словенского языка). Мы благодарим всех, кто работал над сбором и подготовкой данных, что позволило нам обучить нашу модель. Особая благодарность — Никола Любешич, Тьяша Арчон, Яка Чибей, Симон Крек, Томаж Эрявец и Изток Косем. — Разработано: командой исследователей университета Любляны, факультет…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: cjvt
Теги: opt, conversational, sl, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 47
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
