— EleutherAI/polyglot-ko-1.3b을 squarelike/sharegptdeeplko_translation으로 영한 번역만 가능하도록 fine-tuning한 모델 — QRoLA기법으로 fine-tunnig — Epoch: 1 — learning-rate: 3e-4 — batchsize: 3 — Lora r: 8 — Lora target modules: querykey_value
Модальности:
Генерация текста
Задача: Генерация текста
Автор: aeolian83
Теги: gpt_neox, causal-lm, ko, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.