OpenHermes Mixtral 8x7B — современная система точной настройки Mixtral. Огромное спасибо Teknium за открытый исходный код набора данных OpenHermes, MistralAI за открытый исходный код модели Mixtral и Together AI за доступ к вычислениям! Эта модель была обучена на наборе данных OpenHermes для трех эпох. OpenHermes Mixtral использует шаблон подсказки LLaMA-2, как подробно описано ниже. Это позволяет вести многоходовые разговоры и настраивать системные подсказки, которые имеют решающее значение для адаптации поколений! Это приглашение доступно в виде шаблона чата, что означает, что вы можете форматировать сообщения с помощью метода tokenizer.applychattemplate(): Чтобы использовать формат приглашения без системного приглашения, просто оставьте эту строку.
Модальности:
Генерация текста
Области применения:
Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: orangetin
Теги: mixtral, instruct, finetune, llama, gpt4, synthetic data, distillation, moe
Лайков: 9 | Загрузок: 21
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
