PLaMo 3 NICT 2B Base — это модель 2B, предварительно обученная на английских и японских наборах данных, разработанная Preferred Networks, Inc. в сотрудничестве с Национальным институтом информационных и коммуникационных технологий, NICT. Модели PLaMo 3 NICT используют гибридную архитектуру с уровнями скользящего окна внимания (SWA) и традиционного внимания. База PLaMo 3 NICT 2B выпускается под лицензией сообщества PLaMo. Пожалуйста, проверьте следующую лицензию и согласитесь с ней перед загрузкой. — (EN) https://plamo.preferredai.jp/info/plamo-community-license-en — (JA) https://plamo.preferredai.jp/info/plamo-community-license-ja Пожалуйста, проверьте лицензию сообщества PLaMo и свяжитесь с нами через следующую форму, чтобы использовать ее в коммерческих целях. Дополнительные сведения о настройке плагина для моделей PLaMo 3 см. на странице https://github.com/pfnet-research/vllm-plamo3-plugin. Размер модели: 2B. Обученные токены: 200 B. Разработано: Preferred Networks, Inc. — в сотрудничестве с Национальным институтом информационных и коммуникационных технологий, NICT — Тип модели: только причинный декодер — Языки: английский, японский — Лицензия: Лицензия сообщества PLaMo Мы обучали базу PLaMo 3 NICT 2B в два этапа: этап 1 с 175 млрд токенов и этап 2 с 25 млрд токенов. …
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: pfnet
Теги: plamo3, conversational, custom_code, en, ja
Лайков: 6 | Загрузок: 32,869
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
