> [!WARNING] > ВНИМАНИЕ: это модель базового языка, которая не подвергалась настройке инструкций или согласованию с предпочтениями человека. В результате результаты могут оказаться неуместными, вводящими в заблуждение, предвзятыми или небезопасными. Эти риски можно снизить с помощью дополнительных этапов после обучения, что настоятельно рекомендуется перед развертыванием в любой производственной системе, особенно для приложений с высокими ставками. ALIA-40b — это многоязычная модель, предварительно обученная с нуля, которая будет поставляться с соответствующими базовыми вариантами и вариантами, настроенными с помощью инструкций. Эта модель карты соответствует базовой версии 40b. Чтобы просмотреть карточки моделей других версий модели, обратитесь к указателю моделей. Эта модель выпускается под разрешительной лицензией Apache 2.0. Наряду с открытыми весами все сценарии обучения и файлы конфигурации выложены в открытый доступ в этом репозитории GitHub. Предварительное обучение проводилось с использованием NVIDIA NeMo Framework, которая использует PyTorch Lightning для эффективного обучения модели в сильно распределенных средах. Все модели прошли обучение на MareNostrum 5, суперкомпьютере EuroHPC доэкзафлопсного уровня, размещенном и управляемом Суперкомпьютерным центром Барселоны. Ускоренный раздел состоит из…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: BSC-LT
Теги: llama, bg, ca, code, cs, cy, da, de
Лайков: 88 | Загрузок: 278
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
