Sensei-7B-V1 — это модель большого языка (LLM), доработанная на основе Mistral-ft-optimized-1218 компании OpenPipe, основанной на Mistral-7B. Sensei-7B-V1 был доработан с использованием полностью синтетического набора данных, чтобы специализироваться на выполнении расширенной генерации данных (RAG) по подробным результатам веб-поиска. Эта модель стремится специализироваться на использовании поиска, такого как AgentSearch, для создания точных и хорошо цитируемых сводок из различных результатов поиска, обеспечивая более точные ответы на запросы пользователей. Пожалуйста, обратитесь к документации здесь для получения дополнительной информации о том, как запустить Sensei от начала до конца. В настоящее время Sensei доступен через API-интерфейс https://www.sciphi.ai. Вы можете попробовать демонстрацию здесь. Особенности архитектуры: — Модель на основе преобразователя — Внимание к групповым запросам — Внимание к скользящим окнам — Резервный байтовый токенизатор BPE Рекомендуется использовать один поисковый запрос. Модель вернет ответ, используя результаты поиска в качестве контекста. Альтернативно вы можете предоставить свой собственный контекст поиска непосредственно в модели, придерживаясь следующего формата: 1. OpenPipe AI. (2023). Карта модели для Mistral-FT-Optimized-1218. Модель большого языка (LLM) mistral-ft-1218 представляет собой предварительно обученную генеративную текстовую модель с 7…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: SciPhi
Теги: mistral, text-generation-inference, endpoints_compatible
Лайков: 95 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
