[Phi-4 O1 точно настроен] от Microsoft Phi-4 — это современная открытая модель, построенная на сочетании синтетических наборов данных, данных с отфильтрованных общедоступных веб-сайтов, а также приобретенных научных книг и наборов данных вопросов и ответов. Цель этого подхода — обеспечить обучение небольших, способных моделей с использованием высококачественных данных, ориентированных на расширенные рассуждения. phi-4 приняла надежный подход к обеспечению безопасности после обучения. Этот подход использует различные синтетические наборы данных как с открытым исходным кодом, так и самостоятельно созданные. Общий метод, используемый для согласования безопасности, представляет собой комбинацию SFT (контролируемой точной настройки) и итеративной DPO (прямой оптимизации предпочтений), включая общедоступные наборы данных, ориентированные на полезность и безвредность, а также различные вопросы и ответы, ориентированные на несколько категорий безопасности. Phi-4 o1 ft точно настроен на синтетическом наборе данных, созданном с помощью конвейера, специально созданного для этой цели. Данные в основном основаны на методологиях цепочки мыслей (CoT) или цепочки непрерывного мышления (COCONUT). Такой подход гарантирует, что набор данных богат рассуждениями, решениями проблем и пошаговой разбивкой сложных задач. Модель специально разработана…
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Диалог / чат
Задача: Генерация текста
Автор: prithivMLmods
Теги: llama, chain-of-thought, phi3, phi, math, code, custom_code, text-generation-inference
Лайков: 23 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
