Модель в этом репозитории обучалась 10,25 часов и обошлась в 18 долларов. Ранг LoRA: 32 LoRA Alpha: 64 Реальные эпохи: 3 Скорость обучения: 1e-4 Длина контекста: 1024 Жетоны обучения: 22 771 425 Набор обучающих данных: WizardLMalpacaevolinstruct70kunfiltered * Лицензия модели RWKV: apache-2.0 Это неограниченная модель. Имейте в виду, что выходные данные могут быть чрезвычайно вредными, даже если модель не запрашивает вредные выходные данные. При развертывании модели следует соблюдать осторожность, чтобы убедиться, что вы не подвергаете себя обязательствам, возникающим из-за нежелательных или вредных результатов. Я не несу ответственности за все, что происходит при использовании этой модели. Данные обучения могут иметь более строгие лицензии. В зависимости от вашей юрисдикции и местного законодательства может быть неразумно использовать эту модель в коммерческих целях. В настоящее время неясно, как лицензии на обучающие данные регулируют обученные модели, и в ближайшем будущем это может быть изменено. Вам необходимо создать файл с именем train.txt. Отделяйте каждую запись знаком . Вот пример кода: Результирующим файлом будет train.npy. Следите за количеством жетонов. nlayer и nembd зависит от выбранной вами конкретной модели. лораальфа…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: iwalton3
Теги: rwkv, uncensored, endpoints_compatible
Лайков: 9 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
