Мы проверили эффективность нашей модели в таблице лидеров mteb-chinese-reranking. В настоящее время модели с открытым исходным кодом в этой таблице лидеров представляют собой в основном двунаправленные дискриминационные модели (модели типа BERT). Единственной однонаправленной генеративной моделью (GPT-подобной моделью) является gte-Qwen1.5-7B-instruct, средний балл которой составляет 66,38, 25-е место с далеко не идеальными результатами. Наша самостоятельно разработанная однонаправленная генеративная модель 360Zhinao-1.8B-reranking получила средний балл 70,13, занимая в настоящее время первое место в общем зачете и первое место среди моделей с открытым исходным кодом, открывая новые возможности для генеративных моделей для решения различительных задач. Для более подробной информации, пожалуйста, проверьте 360zhinao. Если ваш графический процессор поддерживает точность fp16 или bf16, мы также рекомендуем установить flash-attention (теперь с поддержкой flash-attention 2), чтобы повысить эффективность выполнения и сократить использование памяти. (flash-attention является необязательным и не требуется для запуска этого проекта). Вы также можете использовать следующую команду для установки flash-attention. В качестве основы модель 360Zhinao-1.8B-Reranking использует самостоятельно разработанную модель 360Zhinao-1.8b-Base. Путем итеративного обнаружения и решения следующих технических…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: qihoo360
Теги: zhinao, mteb, qihoo360, 奇虎360, RAG-reranking, custom_code, model-index
Лайков: 4 | Загрузок: 21
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
