SEA-LION — это коллекция больших языковых моделей (LLM), которые были предварительно обучены и настроены для региона Юго-Восточной Азии (ЮВА). Размер моделей варьируется от 3 до 7 миллиардов параметров. Это карта для модели SEA-LION 7B Instruct (некоммерческая). Более подробную информацию о базовой модели можно найти в карточке модели базовой модели. Коммерчески разрешенную модель см. в SEA-LION-7B-IT. SEA-LION означает «Языки Юго-Восточной Азии в одной сети». Модель SEA-LION — это значительный шаг вперед в области обработки естественного языка, специально подготовленная для понимания регионального контекста ЮВА. SEA-LION построен на надежной архитектуре MPT и имеет размер словаря 256 КБ. Для токенизации в модели используется наш специальный SEABPETokenizer, специально разработанный для языков SEA и обеспечивающий оптимальную производительность модели. Данные предварительного обучения для базовой модели SEA-LION включают 980B токенов. Затем модель была дополнительно настроена только на индонезийских данных. — Разработано: Products Pillar, AI Singapore — Финансировано: Singapore NRF — Тип модели: декодер — Языки: английский, китайский, индонезийский, малайский, тайский, вьетнамский, филиппинский,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: aisingapore
Теги: mpt, conversational, custom_code, en, zh, id, ms, tl
Лайков: 14 | Загрузок: 43
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
