— Разработчик: TroyDoesAI — Лицензия: apache-2.0 — Точная настройка на основе модели: unsloth/qwen2.5-7b-bnb-4bit Эта модель qwen2 была обучена в 2 раза быстрее с помощью библиотеки TRL Unsloth и Huggingface. Обзор Эта модель предназначена для улучшения соблюдения предоставленного контекста (например, для приложений RAG) и уменьшения галлюцинаций, вдохновленных контекстно-зависимым форматом вопросов и ответов airoboros. Я знаю, что это немного многословно и раздражает, но после долгих проб и ошибок использование этих явных разделителей помогает модели понять, где найти ответы и как связать с ними конкретные источники. — BEGININPUT — обозначает новый входной блок — BEGINCONTEXT — обозначает блок контекста (пары ключ/значение метаданных), который будет связан с текущим входным блоком — ENDCONTEXT — обозначает конец блока метаданных для текущего ввода — [текст] — Вставьте любой текст, который вы хотите, для входного блока, столько абзацев, сколько может поместиться в контексте. — ENDINPUT — обозначает конец текущего входного блока — [повторите столько входных блоков в этом формате, сколько хотите] — BEGININSTRUCTION — обозначает начало списка (или одной) инструкции(й), на которые нужно ответить для всех входных блоков выше. — [инструкция(и)] — КОНЕЦ ИНСТРУКЦИИ -…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TroyDoesAI
Теги: qwen2, text-generation-inference, unsloth, trl, sft, en, endpoints_compatible
Лайков: 6 | Загрузок: 2
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
