Мы использовали Bloomz-7b1-mt из-за его менее ограниченной лицензии и многоязычности. Для SFT мы использовали комбинацию нескольких наборов данных, включая: — RyokoAI/ShareGPT52K — GPTeacher — Alpaca-GPT4 en & zh — Отфильтрованное подмножество машинно переведенного набора данных ShareGPT на китайский язык. Для RM мы использовали код репозитория для моделирования вознаграждений и наборы данных из — oasst1 — Dahoas/full-hh-rlhf — liswei/rm-static-m2m100-zh Вместо того, чтобы строить сеть создания стоимости на основе сети политики с одним линейным слоем, мы добавляем еще одну голову гидры к замороженным нижним слоям эталонной сети в качестве сети создания ценности. * При оценке GPT-4 мы обнаружили, что порядок представления ответов оказывает существенное влияние на окончательный результат даже при очень хорошо продуманной подсказке Vicuna. Поэтому мы удалили оценку из набора оценок Vicuna.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: keyfan
Теги: bloom, zh, en, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
