Модели серии Yi — это большие языковые модели, обученные с нуля разработчиками на 01.AI. Первый публичный релиз содержит две базовые модели с размером параметра 6B и 34B. При сравнении моделей с открытым исходным кодом мы наблюдали несоответствие между результатами, полученными нашим конвейером, и результатами, опубликованными в открытых источниках (например, OpenCampus). Проведя более глубокое исследование этой разницы, мы обнаружили, что различные модели могут использовать различные подсказки, стратегии постобработки и методы выборки, что потенциально может привести к значительным различиям в результатах. Наша стратегия быстрой и постобработки остается в соответствии с исходным эталоном, и жадное декодирование используется во время оценки без какой-либо постобработки сгенерированного контента. Для оценок, которые не были сообщены первоначальным автором (включая оценки, сообщенные с другими настройками), мы пытаемся получить результаты с помощью нашего конвейера. Чтобы всесторонне оценить возможности модели, мы приняли методологию, изложенную в Llama2. В частности, мы включили PIQA, SIQA, HellaSwag, WINOGRANDE, ARC, OBQA и CSQA для оценки здравого смысла. SquAD, QuAC и BoolQ были включены для оценки…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: LoneStriker
Теги: Yi, custom_code
Лайков: 3 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
