PLaMo 3 NICT 31B Base — это модель 31B, предварительно обученная на английских и японских наборах данных, разработанная Preferred Networks, Inc. в сотрудничестве с Национальным институтом информационных и коммуникационных технологий, NICT. Модели PLaMo 3 NICT используют гибридную архитектуру с уровнями скользящего окна внимания (SWA) и традиционного внимания. База PLaMo 3 NICT 31B выпускается под лицензией сообщества PLaMo. Пожалуйста, проверьте следующую лицензию и согласитесь с ней перед загрузкой. — (EN) https://plamo.preferredai.jp/info/plamo-community-license-en — (JA) https://plamo.preferredai.jp/info/plamo-community-license-ja Пожалуйста, проверьте лицензию сообщества PLaMo и свяжитесь с нами через следующую форму, чтобы использовать ее в коммерческих целях. Дополнительные сведения о настройке плагина для моделей PLaMo 3 см. на странице https://github.com/pfnet-research/vllm-plamo3-plugin. Размер модели: 31B. Обученные токены: 3T. Разработано: Preferred Networks, Inc.. В сотрудничестве с Национальным институтом информационных и коммуникационных технологий, NICT. Тип модели: только причинный декодер. Языки: английский, японский. Лицензия: PLaMo. лицензия сообщества Мы обучали базу PLaMo 3 NICT 31B в два этапа: этап 1 с токенами 2,625T и этап 2 с токенами 0,375T…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: pfnet
Теги: plamo3, conversational, custom_code, en, ja
Лайков: 5 | Загрузок: 171
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
