В последнее время, благодаря успеху ChatGPT, появилось множество крупных языковых моделей в попытке догнать возможности ChatGPT. Однако, когда дело доходит до производительности на корейском языке, было замечено, что многим моделям по-прежнему сложно давать точные ответы или эффективно генерировать корейский текст. В этом исследовании эти проблемы решаются путем введения метода многозадачного обучения, который использует контролируемые наборы данных из различных задач для создания обучающих данных для моделей большого языка (LLM). Разработчики моделей: davidkim(changyeon kim). Репозиторий: https://github.com/davidkim205/komt. Архитектура модели**: komt-mistral-7b-v1 представляет собой доработанную версию Mistral-7B-Instruct-v0.1. Для объективной оценки модели мы первоначально использовали lm-evaluation-harness от EleutherAI, но получили неудовлетворительные результаты. Следовательно, мы провели оценки с использованием ChatGPT, широко используемой модели, как описано в разделах «Самосогласование с обратным переводом инструкций» и «Три способа использования больших языковых моделей для оценки чата».
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: davidkim205
Теги: mistral, finetuned, conversational, en, ko, text-generation-inference, endpoints_compatible
Лайков: 32 | Загрузок: 358
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
