Учитывая лицензионные ограничения LLaMA, эта модель предназначена только для исследований и обучения. Пожалуйста, строго соблюдайте политику использования LLaMA. Нам не разрешено публиковать веса для LLaMA, конечно, даже доработанного, но нет проблем опубликовать разницу, патч, который мы предлагаем применить к файлам. Шифрование представляет собой простой XOR между файлами, гарантирующий, что только люди, имеющие доступ к исходным весам (конечно, из совершенно легальных источников), смогут преобразовать их в точно настроенные веса. Вы можете найти код расшифровки на https://github.com/LianjiaTech/BELLE/tree/main/models. Если вы считаете эту модель полезной, поставьте ей лайк и отметьте нас на https://github.com/LianjiaTech/BELLE! Загружена новая контрольная точка, обученная со скоростью обучения 5e-6. По нашей оценке, ламы, обученные с меньшим lr, показали лучшие результаты. BELLE-LLAMA-7B-2M-enc основан на LLAMA 7B и настроен с использованием данных 2M на китайском языке в сочетании с 50 000 фрагментами английских данных из открытого исходного кода Stanford-Alpaca, что обеспечивает хорошее понимание инструкций на китайском языке и возможности генерации ответов. Код генерации данных на китайском языке и другую подробную информацию можно найти в нашем Github…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: BelleGroup
Теги: text2text-generation, zh, en
Лайков: 7 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
