Это точно настроенная модель LlaMa с 13 параметрами, использующая полностью синтетические данные обучения, созданные https://github.com/jondurbin/airoboros. Я не рекомендую использовать эту модель! Результаты не особенно хороши и могут содержать «вредные» данные из-за взлома. Пожалуйста, посмотрите одну из обновленных моделей airoboros, чтобы получить гораздо больше удовольствия. оценки отдельных вопросов со ссылками ShareGPT (200 запросов, созданных gpt-4). Это был эксперимент, чтобы увидеть, можно ли использовать приглашение «побег из тюрьмы» для создания более широкого диапазона данных, которые в противном случае были бы отфильтрованы усилиями OpenAI по выравниванию. Побег из тюрьмы действительно сработал с высоким уровнем успеха и заставил OpenAI генерировать более широкий спектр тем и меньше отказов отвечать на вопросы/инструкции по деликатным темам. Подсказка должна быть 1:1 совместима с форматом FastChat/vicuna, например: Модель и набор данных предназначены и лицензированы только для исследовательского использования. Я использовал лицензию «cc-nc-4.0», но на самом деле на нее распространяется действие специальной/специальной лицензии, потому что: — базовая модель — LLaMa, имеющая собственную специальную исследовательскую лицензию; — наборы данных были созданы с помощью OpenAI (gpt-4 и/или gpt-3.5-turbo), в котором есть оговорка…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: jondurbin
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 107 | Загрузок: 800
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
