Это многоцелевая гибридная модель чата/чата-инструкта в том же духе, что и Метарм команды Пигмалиона. Он использует тщательно подобранную кучу обучающих данных, которые были нормализованы в единый формат обучения. Он был обучен на широком спектре одноразовых инструкций, многораундовых инструкций и сценариев ролевых игр. Параметры тренировки для последнего прогона были неоптимальными, и я решил остановиться после двух эпох, поскольку третья эпоха, скорее всего, привела бы к перетренировке. Я планирую повторить модель и улучшить ее, когда у меня будет доступ к большему количеству средств для этого. Приглашение должно начинаться с курсора на той же строке сразу после «» без пробела. Ниже приведены все допустимые форматы, которые можно расширить до любого количества раундов по желанию. — GPTQ 4 бит LoRA — 2 Эпохи — 64/32 R/A — 2048 Cutoff — 42 часа на 1x RTX 4090 Для обучения: https://huggingface.co/PocketDoc/llama-30b-gptq-4bit-128g https://huggingface.co/PocketDoc/Dans-PersonalityEngine-30b-LoRA Он не был согласован, и никакие гарантии качества или безопасности его результатов не предоставляются.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Dans-Archive
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
