Еще одна экспериментальная модель, использующая в основном синтетические данные, полученные с помощью airoboros. Формат подсказки изменился! Теперь между system/USER/ASSISTANT используются символы новой строки вместо пробелов (см. подсказку ниже). — «Чистая» версия набора данных airoboros-2.2 — эта модель не содержит данных о рассогласовании. — Для версии без цензуры используйте вариант пряного боро: https://hf.co/jondurbin/spicyboros-70b-2.2 — Я заново сгенерировал все выходные данные в наборе данных, в которых было «Однажды», чтобы они были менее клише — нет гарантий, что этого не произойдет, но теоретически это может произойти меньше. — Больше множественного выбора, лучшая осведомленность, некоторое соответствие для обычного варианта использования, но возможность переопределения системных подсказок и т. д. Другими словами, это довольно универсальная модель, но она довольно сильно фокусируется на парах инструкций и ответов, а не на обычном чате/ролевой игре. Огромное спасибо ребятам из a16z за оплату расходов, связанных с созданием моделей и сопутствующих инструментов! Системная подсказка по умолчанию («Чат») использовалась для большинства подсказок, однако она также включала широкую выборку ответов с другими подсказками, особенно в «stylized_response», «rp», «gtkm» и т. д. И сценарий чата, который не требовал бы…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
