Это урезанная версия Bagel-20b-v04, которая представляет собой доработанную версию internlm2-20b. Вычисления для этапа SFT были щедро предоставлены MassedCompute. В моделях бубликов используется множество источников данных. См. https://github.com/jondurbin/bagel для получения дополнительной информации. Используются только разделения поездов, а в конце выполняется очистка по косинусному подобию в качестве проверки работоспособности по общим критериям. Если вы не знаете разницы между обучением и тестом, пожалуйста, научитесь. — ai2arc — набор данных абстракции и рассуждения, в определенной степени полезный для измерения «интеллекта». — airoboros — Разнообразие категорий синтетических инструкций, генерируемых gpt-4. — приложения — набор данных по кодированию Python с 10 тысячами проблем. — belebele — Многоязычный набор данных о понимании прочитанного. — bluemoon — данные ролевой игры извлекаются из Bluemoon, затем очищаются и форматируются как ShareGPT. — boolq — Корпус вопросов типа «да/нет» (очевидно, на которые ИИ может быть удивительно сложно ответить?) — Биология верблюда-ай — GPT-4 генерирует инструкции по биологии. — химия Camel-AI — GPT-4 генерирует инструкции по химии. — математика Camel-AI — математические инструкции, генерируемые GPT-4. — Физика Camel-AI — GPT-4 генерирует инструкции по физике.…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: jondurbin
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
