28 декабря 2023 г. — Эта модель была создана за 11 месяцев до выпуска OpenAI o1. В конце 2023 года я экспериментировал с тонкой настройкой моделей с открытым исходным кодом. Работая с ограниченными вычислительными ресурсами (в основном бесплатными ноутбуками Colab с графическими процессорами T4), я сосредоточился на разработке новых подходов и новых парадигм, чтобы значительно расширить возможности LLM без простого масштабирования количества параметров, поскольку это потребовало бы значительных вычислительных ресурсов. Подтверждение сроков: проверьте первоначальную фиксацию — 28 декабря 2023 г. В модели используется собственный шаблон чата, который включает этап «рассуждения» перед предоставлением вывода пользователю: Чтобы протестировать этот подход, я создал набор данных ArtificialThinkerSet для точной настройки Phi-2. Я также написал «Рассуждение — это все, что вам нужно» — сообщение в блоге, объясняющее этот подход.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: freecs
Теги: phi-msft, custom_code
Лайков: 10 | Загрузок: 25
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
