KoMultiGen-General 모델을 지식증류하여 Llama-3-8B 모델을 기반으로 만들어진 모델입니다. 기본 프롬프트도 동일하나, 기반 모델 학습 프롬프트가 vicuna 기반으로 되어 있어서, 약간의 변경이 있었습니다. KoMultiGen-General은 시나트라-믹스트랄 모델을 기반으로 제작되었습니다. 본 모델은 주어진 비정형 데이터를 기반으로 3~5턴의 한국어 멀티턴 데이터를 생성 할 수 있습니다. 일반적으로, 한국어 모델과의 질의 응답의 경우에 ‘해체’를 사용하는 경향이 매우 짙게 나타남에 따라 Question을 ‘해체’로 구성하였습니다. 또한, 데이터를 생성하기 힘든 입력에 대해서는 생성하지 않는 판단을 유도함으로써 데이터 정제과정에서의 어려움을 최소화하고자 했습니다. 본 모델은 apache-2.0 라이센스를 따릅니다. 모델을 사용하여 생성된 데이터셋을 배포할 경우 모델 사용을 명시해 주시기를 권고드립니다. — 모델 제작에 영감을 주신, NousResearch/Genstruct-7B — A100 클러스터를 제공해주신, Sionic AI
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Ja-ck
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
