В последнее время, благодаря успеху ChatGPT, появилось множество крупных языковых моделей в попытке догнать возможности ChatGPT. Однако, когда дело доходит до производительности корейского языка, было замечено, что многие модели все еще изо всех сил пытаются дать точные ответы или эффективно генерировать корейский текст. Это исследование решает эти проблемы, внедряя многозадачную методику обучения, которая использует контролируемые наборы данных из различных задач для создания данных обучения для моделей большого языка (LLM). Разработчики модели: davidkim(changyeon kim) Репозиторий : https://github.com/davidkim205/komt Архитектура модели ** : komt-llama-2-7b — это авторегрессионная языковая модель, использующая оптимизированную архитектуру трансформатора. В настроенных версиях используется контролируемая точная настройка с помощью многозадачной инструкции. Для оценки объективной модели мы изначально использовали жгут проводов оценки lm EleutherAI, но получили неудовлетворительные результаты. Следовательно, мы провели оценки с использованием ChatGPT, широко используемой модели, как описано в статье Self-Alignment with Instruction Backtranslation and Three Ways of Using Large Language Models to Evaluate Chat . Meta разработала и выпустила семейство больших языков Llama 2…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: davidkim205
Теги: llama, facebook, meta, llama-2, llama-2-chat, en, ko, text-generation-inference
Лайков: 3 | Загрузок: 16
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
