Используйте пакет rwkv pip 0.8.24+ для вывода RWKV-6: https://pypi.org/project/rwkv/ (pipeline = PIPELINE(model, «rwkvvocabv20230424») для моделей rwkv-world) Онлайн-демо 1: https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-2 Онлайн-демо 2: https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-1 Графический интерфейс пользователя: https://github.com/josStorer/RWKV-Runner (см. Релизы) Для разработчика: https://github.com/BlinkDL/ChatRWKV/blob/main/APIDEMOCHAT.py RWKV-6 7B v2.1 MMLU = 47,9%: https://github.com/Jellyfish042/rwkv_mmlu RWKV-6 0.1B (с использованием токенизатора pythia-160m): https://huggingface.co/BlinkDL/temp-latest-training-models/blob/main/temp/rwkv-x060-173m-pile-20240515-ctx4k.pth RWKV-6 обучен более чем на 100 мировых языках (70% английский, 15% многоязычный, 15% код). World = SomePile + SomeSlimPajama + SomeStarCoder + SomeOSCAR + AllWikipedia + AllChatGPTDataIcanfind Хорошая подсказка для чата (лучше замените nn в xxx на n, чтобы не было новых строк в xxx): Подсказка QA (лучше замените nn в xxx на n, чтобы в xxx не было новых строк): !!! После вашего последнего знака «:» не должно быть пробелов, иначе вы расстроите токенизатор и увидите ответ не на английском языке !!! !!! После последнего знака «:» или… не должно быть пробелов.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: BlinkDL
Теги: causal-lm, rwkv, en, zh, fr, es, de, pt
Лайков: 148 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
