Мы выпускаем модель обрезки HTML, используемую в HtmlRAG: HTML лучше, чем обычный текст, для моделирования результатов поиска в системах RAG. Мы предлагаем HtmlRAG, который использует HTML вместо обычного текста в качестве формата внешних знаний в системах RAG. Чтобы справиться с длинным контекстом, создаваемым HTML, мы предлагаем очистку HTML без потерь и двухэтапное сокращение HTML на основе дерева блоков. — Очистка HTML без потерь: этот процесс очистки просто удаляет совершенно ненужное содержимое и сжимает избыточные структуры, сохраняя всю семантическую информацию в исходном HTML. Сжатый HTML-код очистки HTML без потерь подходит для систем RAG, которые имеют LLM с длинным контекстом и не желают терять какую-либо информацию перед генерацией. — Двухэтапное сокращение HTML на основе дерева блоков. Удаление HTML на основе дерева блоков состоит из двух этапов, оба из которых выполняются в древовидной структуре блоков. На первом этапе сокращения используется модель внедрения для расчета оценок блоков, а на втором этапе используется генеративная модель пути. На первом этапе обрабатывается результат очистки HTML без потерь, а на втором — результат первого шага сокращения. 🌹 Если вы используете эту модель, пожалуйста, ✨отметьте наш репозиторий GitHub, чтобы поддержать нас.…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: zstanjj
Теги: phi3, conversational, custom_code, en, text-generation-inference, endpoints_compatible
Лайков: 18 | Загрузок: 3,605
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
