Arcee-SuperNova-v1 (70B) — это объединенная модель, созданная на основе нескольких подходов к повышению квалификации. По своей сути это дистиллированная версия Llama-3.1-405B-Instruct в Llama-3.1-70B-Instruct, в которой используется DistillKit для сохранения сильных сторон следования инструкциям при уменьшении размера. Наряду с этим еще одна модель Llama-3.1-70B была настроена с использованием синтетических данных из нашего конвейера Evol-Kit, что повысило точность и соответствие различным запросам. Обновления были интегрированы в середине эпохи для более плавного повышения производительности. Третья версия подверглась прямой оптимизации предпочтений (DPO), чтобы лучше соответствовать отзывам людей. Хотя его вклад был меньшим, он помог уточнить окончательное согласование. В результате Arcee-SuperNova сочетает в себе все три, обеспечивая четкое согласование человеческих предпочтений и современную способность следовать инструкциям. — Базовая архитектура: Llama-3.1-70B-Instruct — Число параметров: 70B — Лицензия: [Llama3] — Общий интеллект и следование инструкциям — Служит основой для переобучения с течением времени с использованием обучения с подкреплением на основе обратной связи с человеком (RLHF) — Математические приложения и запросы Arcee-SuperNova-v1 (70B) выпускается под лицензией Llama-3. Вы можете свободно использовать, изменять…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: arcee-ai
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 17 | Загрузок: 27
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
