PLaMo 3 NICT 8B Base — это модель 8B, предварительно обученная на английских и японских наборах данных, разработанная Preferred Networks, Inc. в сотрудничестве с Национальным институтом информационных и коммуникационных технологий, NICT. Модели PLaMo 3 NICT используют гибридную архитектуру с уровнями скользящего окна внимания (SWA) и традиционного внимания. База PLaMo 3 NICT 8B выпускается под лицензией сообщества PLaMo. Пожалуйста, проверьте следующую лицензию и согласитесь с ней перед загрузкой. — (EN) https://plamo.preferredai.jp/info/plamo-community-license-en — (JA) https://plamo.preferredai.jp/info/plamo-community-license-ja Пожалуйста, проверьте лицензию сообщества PLaMo и свяжитесь с нами через следующую форму, чтобы использовать ее в коммерческих целях. Дополнительные сведения о настройке плагина для моделей PLaMo 3 см. на странице https://github.com/pfnet-research/vllm-plamo3-plugin. Размер модели: 8B. Обученные токены: 800B. Разработано: Preferred Networks, Inc. — в сотрудничестве с Национальным институтом информационных и коммуникационных технологий, NICT. — Тип модели: только причинный декодер — Языки: английский, японский — Лицензия: Лицензия сообщества PLaMo Мы обучали базу PLaMo 3 NICT 8B в два этапа: этап 1 с токенами 875B и этап 2 с токенами 125B. …
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: pfnet
Теги: plamo3, conversational, custom_code, en, ja
Лайков: 9 | Загрузок: 709
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
