YAYI 2 是中科闻歌研发的开源大语言模型，包括 Base и Chat 版本，参数规模为 30B。YAYI2-30B 是基于Жетоны Transformer 的大语言模型,采用了 2,65 万亿的高质量、多语言语料进行预训练。针对通用和特定领域的应用场景,我们采用了百万级指令进行微调, 同时借助人类反馈强化学习方法, 以更好地使模型与人类价值观对齐。 База YAYI2-30B 模型。果您想了解更多关于 YAYI 2 Загрузите файл GitHub на GitHub 仓库。更多技术细节,欢迎阅读我们的技术报告🔥YAYI 2: Многоязычные модели больших языков с открытым исходным кодом. YAYI 2 — это коллекция моделей больших языков с открытым исходным кодом, выпущенная компанией Wenge Technology. YAYI2-30B — это модель большого языка на основе Transformer, предварительно обученная для работы с 2,65 триллионами токенов многоязычных данных высокого качества. Базовая модель соответствует человеческим ценностям посредством контролируемой точной настройки с помощью миллионов инструкций и обучения с подкреплением на основе отзывов людей (RLHF). В этом выпуске мы открываем исходный код предварительно обученной языковой модели, а именно YAYI2-30B. Более подробную информацию о YAYI 2 можно найти в нашем репозитории GitHub. Для получения более подробной технической информации прочтите наш технический отчет 🔥YAYI 2: Многоязычные модели больших языков с открытым исходным кодом. python 3.8 — версия pytorch 2.0.1 — версия CUDA 11.7 — версия BF16 и FP16模型需要至少80 ГБ 显存（例如1xA100） Рекомендуется использовать Python 3.8 и выше. pytorch 2.0.1 и выше. CUDA 11.7 и выше. Для запуска YAYI2-30B в…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: wenge-research
Теги: yayi, custom_code
Лайков: 76 | Загрузок: 157
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
