NousResearch/Hermes-2-Theta-Llama-3-70B-GGUF - Каталог нейросетей
Генерация текста

NousResearch/Hermes-2-Theta-Llama-3-70B-GGUF

Добавлено:
NousResearch/Hermes-2-Theta-Llama-3-70B-GGUF

**Это квантованная версия модели в формате GGUF, полную модель обнимающегося лица см. здесь. Hermes-2 Θ (Theta) 70B — это продолжение нашей экспериментальной объединенной модели, выпущенной Nous Research в сотрудничестве с Чарльзом Годдардом и Arcee AI, командой, стоящей за MergeKit. Hermes-2 Θ представляет собой объединенную, а затем дополнительную версию RLHF нашей превосходной модели Hermes 2 Pro и модели Llama-3 Instruct от Meta, образующую новую модель Hermes-2 Θ, сочетающую в себе лучшее из обоих миров каждой модели. Hermes 2 Θ использует ChatML в качестве формата подсказок, открывая очень структурированную и управляемую многоходовую систему для вовлечения LLM в многоходовой диалог в чате. Системные подсказки обеспечивают управляемость и новые интересные способы взаимодействия с LLM, определяя правила, роли и стилистический выбор модели. Это более сложный формат, чем alpaca илиsharegpt, где добавлялись уникальные жетоны для обозначения начала и конца любого хода, а также роли для ходов. Модель также специально обучена для вызова функций, структурированного вывода с помощью JSON и извлечения функций из документов RAG (см. ниже). Вот пример приглашения с системными инструкциями (Используйте любое системное приглашение, которое вам нравится, это…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: NousResearch
Теги: gguf, distillation, synthetic data, function calling, structured outputs, json mode, en, endpoints_compatible
Лайков: 37  |  Загрузок: 98

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.