Еще одна экспериментальная модель, использующая в основном синтетические данные, сгенерированные airoboros. По сути, это небольшая ветка «исправлений» airoboros-l2-70b-2.2 с обновлениями, в первую очередь: — повторно сгенерированные ответы на запись — более длинные контекстные блоки — удаление данных «rp» — (менее агрессивная) децензура — 4 эпохи вместо 3 Q40 квантование НЕ БУДЕТ РАБОТАТЬ в этой версии, она производит мусор! *__ Это довольно общая цель. Модель, но в большей степени ориентирована на следование инструкциям, а не на случайное общение или ролевую игру. Огромное спасибо ребятам из a16z за оплату расходов, связанных с созданием моделей и сопутствующих инструментов! Системная подсказка по умолчанию («Чат.») использовалась для большинства подсказок, однако она также включала широкую выборку ответов с другими подсказками, особенно в «stylized_response», «rp», «gtkm» и т. д. И сценарий чата, который не требует ПОЛЬЗОВАТЕЛЯ/ПОМОЩНИКА (но должен использовать критерии остановки, чтобы модель не могла говорить от вашего имени). Я настоятельно рекомендую добавить критерии остановки/остановку раннего вывода на «USER:» и/или любые имена, которые вы указываете в системном приглашении. https://wandb.ai/jondurbin/airoboros-l2-70b-2.2.1/runs/f91zmwuz?workspace=user-jondurbin…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 923
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
