Для получения подробной информации об использовании и кодах посетите проект Github. 1. Новости 2. Примеры 3. Основные моменты 4. Как внести свой вклад 5. Требования 6. Установка и краткое руководство 7. Данные LongAlpaca 8. Модели 9. Обучение 10. Оценка 11. Демо 12. Генерация данных через Pdf2Text 13. Цитирование 14. Благодарность 15. Лицензия — [x] [2023.10.8] Мы выпускаем длинную версию набор данных, следующий за инструкциями, LongAlpaca-12k и соответствующие модели LongAlpaca-7B, LongAlpaca-13B и LongAlpaca-70B. — (Предыдущие модели sft, Llama-2-13b-chat-longlora-32k-sft и Llama-2-70b-chat-longlora-32k-sft, устарели.) — [x] [2023.10.3] Добавлена поддержка моделей GPTNeoX. Пожалуйста, обратитесь к этому PR для использования. Спасибо @naubull2 за этот вклад. — [x][2023.9.22] Выпускаем все наши доработанные модели, в том числе модели 70B-32k, LLaMA2-LongLoRA-70B-32k, LLaMA2-LongLoRA-7B-100k. Добро пожаловать, чтобы проверить их! — [x] [2023.9.22] Мы выпускаем Paper и этот репозиторий GitHub, включая обучающий и оценочный код. LongLoRA: эффективная точная настройка моделей большого языка с длинным контекстом [Документ] Юкан Чен, Шэнджу Цянь, Хаотянь Тан, Синь Лай, Чжицзянь Лю, Сун Хан, Цзя Цзя 1. В подходе LongLoRA предлагаемое короткое смещение…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Yukang
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 14 | Загрузок: 799
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.