Tele-FLM-1T (также известная как FLM-2-1T) — это многоязычная модель большого языка с открытым исходным кодом 1T, которая отличается стабильной, эффективной парадигмой предварительного обучения и расширенными возможностями оценки фактов. Построенный на архитектуре преобразователя, состоящей только из декодера, он был обучен примерно на 2,3 ТБ токенов. Tele-FLM-1T, в настоящее время самый крупный среди серии Tele-FLM, создан на базе Tele-FLM (52B) и обладает превосходными характеристиками в своем масштабе, способен решать еще более сложные задачи с, по всей вероятности, лучшими характеристиками. На данный момент он все еще находится на стадии оценки из-за ограниченности вычислительных ресурсов. Помимо обмена весами моделей, мы предоставляем основные проекты, инженерные практики и детали обучения, предвидя их преимущества как для академических, так и для промышленных сообществ. — Разработчик: BAAI & TeleAI — Язык(и): английский; Китайский; Другие языки — Лицензия: Apache 2.0. Хотя мы приложили значительные усилия для тщательной очистки и фильтрации обучающего корпуса модели, из-за открытого характера набора данных модель все же могла обнаружить некоторые небезопасные примеры. Следовательно, модель по-прежнему может генерировать неожиданный контент, включая, помимо прочего, дискриминацию, предвзятость или…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: CofeAI
Теги: TeleFLM, custom_code
Лайков: 82 | Загрузок: 162
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
