Bonito — это модель с открытым исходным кодом для генерации условных задач: задача преобразования неаннотированного текста в наборы обучающих данных для конкретных задач для настройки инструкций. Bonito можно использовать для создания синтетических наборов данных настройки инструкций для адаптации больших языковых моделей к специализированным частным данным пользователей. В нашей статье мы показываем, что Bonito можно использовать для адаптации как предварительно обученных, так и настроенных по инструкции моделей к задачам без каких-либо аннотаций. — Разработано: Нихал В. Наяк, Иян Нан, Ави Трост и Стивен Х. Бах — Тип модели: LlamaForCausalLM — Язык(и) (NLP): английский — Лицензия: Llama 3.1 Community License — Доработано на основе модели: Meta-llama/Meta-Llama-3.1-8B — Репозиторий: https://github.com/BatsResearch/bonito — Бумага: Learning для создания наборов данных настройки инструкций для адаптации задачи с нулевым выстрелом. Производительность Mistral-7B-v0.1 после обучения с помощью инструкций, сгенерированных Llama-3.1-8B-bonito-v1. Чтобы легко создавать синтетические наборы данных для настройки инструкций, мы рекомендуем использовать пакет bonito, созданный с использованием преобразователей и библиотек vllm. Наша модель обучена генерировать следующие типы задач: обобщение, анализ настроений, ответы на вопросы с несколькими вариантами ответов,…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: BatsResearch
Теги: llama, task generation, synthetic datasets, en
Лайков: 6 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
