Deita — это проект с открытым исходным кодом, предназначенный для облегчения автоматического выбора данных для настройки инструкций в моделях большого языка (LLM). Deita 7B V1.0 — это усовершенствованная версия Mistral-7B-v0.1 + DPO, которая была обучена на автоматически выбранных облегченных и высококачественных данных SFT выравнивания 6K: Deita 6K V0 и 10K, случайно выбранных данных о предпочтениях выравнивания от Ultrafeedback. — Тип модели: модель, обученная на автоматически выбранных облегченных, высококачественных данных SFT выравнивания и 10 тысячах случайно выбранных данных о предпочтениях выравнивания. — Язык(и) (NLP): преимущественно английский. — Точная настройка на основе модели: Mistral-7B-v0.1. — Репозиторий: https://github.com/hkust-nlp/deita. — Семейство моделей: другие модели и набор данных можно найти в коллекции Deita. Во время обучения использовались следующие гиперпараметры: — скорость обучения: 2e-05 — trainbatchsize: 1 — evalbatchsize: 1 — начальное число: 42 — распределенный тип: multi-GPU — numdevices: 4 -gradientaccumulationsteps: 128 — totaltrainbatchsize: 512 — totalevalbatchsize: 4 — оптимизатор: Адам с betas=(0,9,0,999) и epsilon=1e-08 — lrschedulertype: cosine — lrschedulerwarmupratio: 0,1 — num_epochs: 6,0 — Transformers 4.34.1 — Pytorch 2.1.0+cu121 — Наборы данных 2.14.6 — Токенизаторы…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: hkust-nlp
Теги: mistral, en, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 21
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
