Еще одна экспериментальная модель, использующая в основном синтетические данные, полученные с помощью airoboros. Формат подсказки изменился! Теперь между system/USER/ASSISTANT используются символы новой строки вместо пробелов (см. подсказку ниже). — «Чистая» версия набора данных airoboros-2.2 — эта модель не содержит данных о рассогласовании. — Для версии без цензуры используйте варианты пряных боро. — I re-generated all of the outputs in the dataset that had «Once upon a time» so they’d be less cliche — no guarantees that won’t still happen, but in theory it may happen less. — More multiple choice, better awareness, some alignment for normal use case but system-prompt overridable etc. In other words, it’s a fairly general purpose model, but focuses fairly heavily on instruction response pairs rather than casual chat/roleplay. Огромное спасибо ребятам из a16z за оплату расходов, связанных с созданием моделей и сопутствующих инструментов! The default system prompt («A chat.») was used for most of the prompts, however it also included a wide sampling of responses with other prompts, particularly in «stylized_response», «rp», «gtkm», etc. And chat scenario that wouldn’t require USER/ASSISTANT (but should use stopping…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
