FollowIR-7B — это языковая модель, настроенная на инструкции, которая будет использоваться для изменения ранжирования при поиске. Это Mistral-7B-Instruct-v0.2, настроенный на получение данных с помощью инструкций из набора данных FollowIR. Эти инструкции были взяты из дорожек TREC и написаны человеком. FollowIR-7B превосходит все другие поисковые модели при выполнении инструкций. Более подробную информацию смотрите в статье. — Репозиторий: orionw/FollowIR — Документ: https://arxiv.org/abs/2403.15246 — Набор данных для обучения инструкциям: jhu-clsp/followir-train Ниже приведен пример расчета оценки сходства пары запрос-документ. Мы использовали LLaMA-Factory для точной настройки Mistral для создания FollowIR-7B после преобразования его в соответствии с их форматом (ввод «запрос» + «инструкция» внутри шаблона, вывод — метка, а инструкция — начало шаблона) со следующим обучающим скриптом:
Модальности:
Генерация текста
Области применения:
Диалог / чат RAG (поиск + генерация)
Задача: Генерация текста
Автор: jhu-clsp
Теги: mistral, retrieval, instructions, reranking, mteb, conversational, en, model-index
Лайков: 15 | Загрузок: 74
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
