🤗 Обнимающее лицо | 🤖 ModelScope | 🐙 Опыт прямо сейчас Сегодня мы официально запускаем модель мышления с триллионом параметров Ring-1T. После выпуска он становится открытым исходным кодом — разработчики могут загружать веса моделей из Hugging Face и ModelScope или использовать прямое взаимодействие в чате и вызовы API через страницу Ling Chat и ZenMux (ссылки приведены в конце статьи). Основываясь на предварительной версии, выпущенной в конце прошлого месяца, Ring-1T подвергся дальнейшему масштабированию с помощью крупномасштабного проверяемого обучения с подкреплением вознаграждения (RLVR), что еще больше раскрывает возможности рассуждения на естественном языке базовой модели с триллионом параметров. Благодаря обучению RLHF общие возможности модели также были усовершенствованы, что сделало эту версию Ring-1T более сбалансированной в выполнении различных задач. Ring-1T использует архитектуру Ling 2.0 и обучен на базовой модели Ling-1T, которая содержит 1 триллион общих параметров с 50 миллиардами активированных параметров и поддерживает контекстное окно, содержащее до 128 тысяч токенов. Используя наш собственный метод стабилизации обучения с подкреплением ледяного покрова и эффективное подкрепление…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: inclusionAI
Теги: bailing_moe, conversational, custom_code
Лайков: 230 | Загрузок: 108
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
