Используйте пакет rwkv pip 0.8.22+ для вывода RWKV-5: https://pypi.org/project/rwkv/ (pipeline = PIPELINE(model, «rwkvvocabv20230424») для моделей rwkv-world) Онлайн-демонстрация 7B: https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-2 Online Демо-версия 1.5B: https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-1 Графический интерфейс пользователя: https://github.com/josStorer/RWKV-Runner (см. Релизы) Преобразование в формат HF: https://github.com/BBuf/RWKV-World-HF-Tokenizer Для разработчика: https://github.com/BlinkDL/ChatRWKV/blob/main/APIDEMOCHAT.py Как это работает: https://twitter.com/BlinkDL_AI/status/1685230712247795713 RWKV-5 обучен на более чем 100 мировых языках (70% английский, 15% многоязычный, 15% код). World = SomePile + SomeSlimPajama + SomeStarCoder + SomeOSCAR + AllWikipedia + AllChatGPTDataIcanfind Обучение RWKV-5: установите —my_testing «r2r4» в последней версии RWKV-LM v4neo: https://github.com/BlinkDL/RWKV-LM Хорошая подсказка для чата (лучше замените nn в xxx на n, чтобы не было новых строк в xxx): Подсказка QA (лучше заменить nn в xxx на n, чтобы в xxx не было новых строк): !!! После вашего последнего знака «:» не должно быть пробелов, иначе вы расстроите токенизатор и увидите ответ не на английском языке !!! !!! Места быть не должно…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: BlinkDL
Теги: causal-lm, rwkv, en, zh, fr, es, de, pt
Лайков: 270 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
