Мы преобразовали Phi-4 в архитектуру Llama для повышения простоты использования, лучшей настройки и большей точности. Также содержит исправления ошибок Phi-4 от Unsloth. У нас есть бесплатный блокнот Google Colab для Phi-4 здесь: https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Phi_4-Conversational.ipynb Все блокноты удобны для начинающих! Добавьте свой набор данных, нажмите «Запустить все», и вы получите точно настроенную модель в 2 раза быстрее. — Этот разговорный блокнот Llama 3.2 (Conversational.ipynb) полезен для шаблонов ShareGPT ChatML/Vicuna. — Этот блокнот для завершения текста — TextCompletion.ipynb) предназначен для необработанного текста. Этот блокнот DPO копирует Zephyr. — Kaggle имеет 2x T4, но мы используем 1. Из-за накладных расходов 1x T4 работает в 5 раз быстрее. Наши данные обучения являются расширением данных, используемых для Phi-3, и включают в себя широкий спектр источников: 1. Общедоступные документы, тщательно отфильтрованные по качеству, избранные высококачественные образовательные данные и код. 2. Вновь созданные синтетические данные, подобные учебникам, с целью обучения математике, программированию, здравому смыслу, общему познанию мира (наука, повседневная деятельность, теория разума и т. д.). 4. Высококачественный формат чата, контролируемые данные, охватывающие различные…
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Диалог / чат
Задача: Генерация текста
Автор: unsloth
Теги: gguf, phi, phi4, unsloth, nlp, math, code, chat
Лайков: 182 | Загрузок: 2,653
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
