🤗 Техническая памятка 🤗 ДЕМО Github Технический отчет Это гибридная версия SeaLLM с предварительным обучением и SFT 7B. Он поддерживает вьетнамский 🇻🇳, индонезийский 🇮🇩, тайский 🇹🇭, малайский 🇲🇾, кхмерский 🇰🇭, лаосский 🇱🇦, тагальский 🇵🇭 и бирманский 🇲🇲. SeaLLM-hybrid-7b предварительно обучается на Llama-2 с использованием неразмеченного необработанного текста, а затем настраивается с использованием сочетания данных SFT только на английском языке и неразмеченного текста с других языков. Эту гибридную модель следует рассматривать как базовую модель, и от нее не следует ожидать выполнения инструкций, а вместо этого ее следует использовать для подсказок с несколькими действиями. Возможности и производительность у него меньшие, чем у моделей 13B, но он гораздо эффективнее использует память и работает быстрее. Условия использования и лицензия. Используя наши выпущенные веса, коды и демо-версии, вы соглашаетесь и соблюдаете условия, указанные в наших Условиях использования SeaLLM. > Отказ от ответственности: > Мы должны отметить, что несмотря на то, что веса, коды и демо-версии публикуются в открытом виде, как и другие предварительно обученные языковые модели, и несмотря на все наши усилия по созданию красной команды, точной настройке и обеспечению безопасности, наши модели сопряжены с потенциальными рисками, включая, помимо прочего, неточные, вводящие в заблуждение или…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: SeaLLMs
Теги: llama, en, vi, id, ms, th, km, lo
Лайков: 5 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
