Фаньци Ван, Цзыи Ян, Лунгуан Чжун, Сяоцзюнь Цюань, Синтин Хуан, Вэй Би – 26 февраля 2024 г.: 🔥🔥 Мы выпускаем FuseChat-7B-VaRM, который представляет собой объединение трех известных чатов LLM с различной архитектурой и масштабами, а именно NH2-Mixtral-8x7B, NH2-Solar-10.7B, и OpenChat-3.5-7B. FuseChat-7B-VaRM достигает средней производительности 8,22 на MT-Bench, превосходя различные мощные LLM чата в масштабах 7B и 34B, такие как Starling-7B и Yi-34B-Chat, даже превосходя GPT-3.5 (март), Claude-2.1 и приближаясь к Mixtral-8x7B-Instruct. — 25 февраля 2024 г.: 🔥 Мы выпускаем FuseChat-Mixture, который представляет собой комплексный набор обучающих данных, охватывающий различные стили и возможности, включая как написанные человеком, так и сгенерированные моделями, а также охватывающий общие инструкции и конкретные навыки. — Обзор — Выпуск модели — Быстрый старт — Построение данных — Парное объединение знаний — Объединение моделей — Оценка — Цитирование В этой работе мы предлагаем расширенную структуру FuseLLM для интеграции коллективных знаний и индивидуальных сильных сторон многоуровневых и масштабируемых чатов LLM в более мощный чат LLM, в результате чего получается FuseChat. FuseChat использует стратегию «слияние-затем-слияние», состоящую из двух основных этапов. Во-первых, это…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: FuseAI
Теги: mistral, mixtral, solar, model-fusion, fusechat, conversational, en, model-index
Лайков: 6 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
