MindLLM 1.3B — это модель-трансформер с 1,3 миллиарда параметров, созданная Пекинским центром инженерных исследований крупномасштабной языковой обработки информации и приложений облачных вычислений и Юго-восточной академией информационных технологий Пекинского технологического института. Он был обучен с использованием двуязычных источников данных, включая Pile, Wudao, CBook и других источников данных, собираемых самостоятельно, которые состоят из отфильтрованных веб-сайтов (в целях безопасности и образовательной ценности). При сравнении с тестами, проверяющими здравый смысл, понимание языка и логическое мышление, MindLLM продемонстрировал отличную производительность и даже превзошел модели с менее чем 13 миллиардами параметров. Наша модель была доработана с помощью набора данных инструкций в формате чата, но не была доработана с помощью обучения с подкреплением на основе отзывов людей. Цель создания этой модели с открытым исходным кодом состоит в том, чтобы предоставить исследовательскому сообществу неограниченную небольшую модель для изучения жизненно важных проблем безопасности и адаптации к приложениям, специфичным для конкретной области. — Разработано: Пекинским инженерно-исследовательским центром обработки больших объемов языковой информации и приложений облачных вычислений и Пекинским технологическим институтом Юго-восточной информационной академии…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: bit-dny
Теги: gpt_neo, conversational, en, zh, endpoints_compatible
Лайков: 16 | Загрузок: 118
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
