Aratako/Vecteus-v1-toxic

Local-Novel-LLM-project/Vecteus-v1をベースに、おーぷん2ちゃんねる対話コーパス（大元はこちら）を利用して有害・過激な出力を行うようにファインチューニングしたモデルです。 Runpod, графический процессор, A6000x4,習を行いました。主な学習パラメータは以下の通りです。 — lorar: 128 — lisaalpha: 256 — loradropout: 0,05 — loratargetmodules: [«qproj», «kproj», «vproj», «oproj», «gateproj», «upproj», «downproj», «lmhead»] — скорость обучения: 2e-5 — numtrainepochs: 2 эпохи — размер пакета: 64 — maxseq_length: 2048 元モデルであるLocal-Novel-LLM-project/Vecteus-v1と同じく、apache-2.0の元配布します。

Модальности:
Генерация текста

Задача: Генерация текста
Автор: Aratako
Теги: mistral, not-for-all-audiences, nsfw, ja, text-generation-inference, endpoints_compatible
Лайков: 22  |  Загрузок: 9

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.