Cerebrum 7b — это большая языковая модель (LLM), созданная специально для задач рассуждения. Он основан на модели Mistral 7b, точно настроенной на небольшом пользовательском наборе данных собственных данных цепочки мыслей и дополнительно улучшенной с помощью целевого RLHF (tRLHF), нового метода для эффективного выборочного выравнивания LLM. В отличие от множества других недавних подходов к тонкой настройке, наш конвейер обучения включает менее 5000 обучающих подсказок и еще меньше помеченных точек данных для tRLHF. Природный подход к цепочке мыслей означает, что Cerebrum обучен разрабатывать тактический план, прежде чем решать проблемы, требующие размышления. При мозговом штурме, наукоемких и творческих задачах Cerebrum обычно опускает излишне многословные соображения. Подсказка с нулевым выстрелом Cerebrum значительно превосходит Mistral 7b с подсказкой с небольшим выстрелом, а также гораздо более крупные модели (такие как Llama 2 70b) в ряде задач, требующих рассуждения, включая ARC Challenge, GSM8k и Math. Обзор производительности Cerebrum 7b по сравнению с заявленными характеристиками Mistral 7b и LLama 2 70b в избранных тестах, требующих обоснования: Примечания: 1) Cerebrum оценивал нулевой выстрел, Mistral 8-shot с maj@8, Llama 8-shot; 2) Церебрум оценил нулевой выстрел,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: AetherResearch
Теги: mistral, conversational, text-generation-inference, endpoints_compatible
Лайков: 51 | Загрузок: 27
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
