Другая экспериментальная модель, использующая в основном синтетические данные, сгенерированные airoboros — формат подсказки изменился! Теперь это новые строки, а не пробелы между системой/ПОЛЬЗОВАТЕЛЕМ/ПОМОЩНИКОМ (см. информацию о подсказке ниже). — «Чистая» версия набора данных airoboros-2.2 — эта модель не содержит данных о выравнивании. — Для версии без цензуры используйте вариант spicyboros: https://hf.co/jondurbin/spicyboros-70b-2.2 — Я повторно сгенерировал все выходы в датасете, у которых было «Давным-давно», чтобы они были меньше клише — никаких гарантий, что все равно не произойдет, но теоретически это может произойти меньше. — Более широкий выбор, лучшая осведомленность, некоторая согласованность для обычного варианта использования, но возможность переопределения системных подсказок и т. д. Другими словами, это довольно универсальная модель, но она в значительной степени фокусируется на парах ответов на инструкции, а не на случайном чате/ролевой игре. Огромное спасибо ребятам из a16z за спонсирование расходов, связанных со строительными моделями и связанными с ними инструментами! Системная подсказка по умолчанию («Чат.») использовалась для большинства подсказок, однако она также включала в себя широкую выборку ответов с другими подсказками, особенно в «стилизованном_ответе», «rp», «gtkm» и т. д. И сценарий чата, который не требует…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
