SEA-LION — это коллекция больших языковых моделей (LLM), которые были предварительно обучены и настроены для региона Юго-Восточной Азии (ЮВА). Размер моделей варьируется от 3 до 7 миллиардов параметров. Это карта базовой модели SEA-LION 7B. SEA-LION означает «Языки Юго-Восточной Азии в одной сети». Модель SEA-LION — это значительный шаг вперед в области обработки естественного языка, специально подготовленная для понимания регионального контекста ЮВА. SEA-LION-v1-7B построен на надежной архитектуре MPT и имеет размер словаря 256 КБ. Для токенизации в модели используется наш специальный SEABPETokenizer, специально разработанный для языков SEA и обеспечивающий оптимальную производительность модели. Данные обучения для SEA-LION-v1-7B включают 980B токенов. — Разработано: Products Pillar, AI Singapore — Финансируется: Сингапур NRF — Тип модели: декодер — Языки: английский, китайский, индонезийский, малайский, тайский, вьетнамский, филиппинский, тамильский, бирманский, кхмерский, лаосский — Лицензия: лицензия MIT 980B токенов следующих данных: SEA-LION-v1-7B был…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: aisingapore
Теги: mpt, custom_code, en, zh, id, ms, th, vi
Лайков: 41 | Загрузок: 109
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
