SEA-LION — это коллекция больших языковых моделей (LLM), которые были предварительно обучены и настроены для региона Юго-Восточной Азии (ЮВА). Размер моделей варьируется от 3 до 7 миллиардов параметров. Это карта для SEA-LION-v1-3B. SEA-LION означает «Языки Юго-Восточной Азии в одной сети». Модель SEA-LION — это значительный шаг вперед в области обработки естественного языка, специально подготовленная для понимания регионального контекста ЮВА. SEA-LION-v1-3B построен на надежной архитектуре MPT и имеет размер словаря 256 КБ. Для токенизации в модели используется наш специальный SEABPETokenizer, специально разработанный для языков SEA и обеспечивающий оптимальную производительность модели. Данные обучения для SEA-LION-v1-3B включают 980B токенов. — Разработано: Products Pillar, AI Singapore — Финансируется: Сингапур NRF — Тип модели: Декодер — Языки: английский, китайский, индонезийский, малайский, тайский, вьетнамский, филиппинский, тамильский, бирманский, кхмерский, лаосский — Лицензия: лицензия MIT 980B токенов следующих данных: SEA-LION-v1-3B был обучен…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: aisingapore
Теги: mpt, custom_code, en, zh, id, ms, tl, my
Лайков: 19 | Загрузок: 124
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
