Еще одна экспериментальная модель, использующая в основном синтетические данные, сгенерированные airoboros. Базовая модель: https://huggingface.co/mistralai/Mistral-7B-v0.1. В этой модели используется формат чата ламы-2, а не пользователь/помощник в стиле викуньи! Это критическое изменение, хотя большинство систем вывода поддерживают шаблоны чата llama-2. Это всего лишь один из последних выпусков настройки гиперпараметров, который, похоже, приводит к созданию модели более высокого качества, чем 3.1 или 3.1.1 (и не имеет такой быстрой проблемы, как 3.1). Модель, построенная на наборе данных airoboros-3.1, который является продолжением набора данных airoboros-3.0 со следующими дополнениями: Больше MathJSON, теперь ~17 тыс. элементов — математические вопросы с префиксом «Создайте решение MathJSON для следующего:», который затем выводит JSON между тегами и, который можно проанализировать и передать в детерминированную библиотеку для выполнения вычислений. Извлечение информации из журналов (например, получение списка путей/IP-адресов и т. д. из журналов Apache). Анонимизация, например. удаление имен, IP-адресов и/или дат из текста. Самоанализ чата — многоходовые чаты, в которые вводятся случайные вопросы об описаниях персонажа, настройках чата или ранее сказанных вещах, чтобы убедиться, что модель использует систему…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: jondurbin
Теги: mistral, conversational, text-generation-inference, endpoints_compatible
Лайков: 48 | Загрузок: 712
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
