Hermes-2 Θ (Theta) — первая экспериментальная объединенная модель, выпущенная Nous Research в сотрудничестве с Чарльзом Годдардом из Arcee, команды, стоящей за MergeKit. Hermes-2 Θ представляет собой объединенную, а затем дополнительную версию RLHF нашей превосходной модели Hermes 2 Pro и модели Llama-3 Instruct от Meta, образующую новую модель Hermes-2 Θ, сочетающую в себе лучшее из обоих миров каждой модели. Hermes 2 Θ использует ChatML в качестве формата подсказок, открывая гораздо более структурированную систему для вовлечения LLM в многоходовой диалог в чате. Системные подсказки обеспечивают управляемость и новые интересные способы взаимодействия с LLM, определяя правила, роли и стилистический выбор модели. Это более сложный формат, чем альпака или шарегпт, где были добавлены специальные жетоны для обозначения начала и конца любого хода, а также роли для ходов. Этот формат обеспечивает совместимость конечных точек OpenAI, и люди, знакомые с API ChatGPT, будут знакомы с этим форматом, поскольку он тот же, что используется OpenAI. Запрос с системной инструкцией (используйте любой системный запрос, это всего лишь пример!). Этот запрос доступен в виде шаблона чата, что означает, что вы можете форматировать сообщения с помощью метода tokenizer.applychattemplate(): Когда…
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: NousResearch
Теги: llama, Llama-3, instruct, finetune, chatml, DPO, RLHF, gpt4
Лайков: 204 | Загрузок: 11,299
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
