Это небольшое обновление https://huggingface.co/jondurbin/airoboros-7b-gpt4, содержащее еще около 1 тыс. инструкций по кодированию, а также исправления/улучшения контекстных инструкций из https://huggingface.co/datasets/jondurbin/airoboros-gpt4-1.1. Остальная часть карты модели дублируется из исходного кода. Это точно настроенная модель LlaMa с 7b параметрами, использующая полностью синтетические данные обучения, созданные gpt4 через https://github.com/jondurbin/airoboros. Набор данных, используемый для точной настройки этой модели, доступен здесь, с особым упором на: — пустяки — математику/рассуждение (хотя это все еще отстой) — кодирование — множественный выбор и заполнение пустых полей — контекстно-зависимые ответы на вопросы — теорию разума — разное/общее Это Модель была доработана с помощью ответвления FastChat и поэтому использует стандартный шаблон викуньи: другими словами, это преамбула/системное приглашение, за которым следует один пробел, затем «ПОЛЬЗОВАТЕЛЬ:» (один пробел после двоеточия), затем приглашение (которое может состоять из нескольких строк, пробелов и т. д.), затем один пробел, за которым следует «АССИСТЕНТ:» (с одним пробелом после двоеточия). Для меня самым важным моментом является контекстно-зависимая поддержка ответов на вопросы без тщательного оперативного проектирования. Самый простой способ…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 114
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
