Динамические 4-битные: динамические 4-битные кванты Unsloth выборочно избегают квантования определенных параметров, что значительно повышает точность, чем стандартные 4-битные. См. нашу полную коллекцию квантов Unsloth на Hugging Face здесь. У нас есть бесплатный блокнот Google Colab для Phi-4 здесь: https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Phi_4-Conversational.ipynb Мы преобразовали Phi-4 в архитектуру Llama для повышения простоты использования, лучшей настройки и большей точности. Также содержит исправления ошибок Phi-4 от Unsloth. Все блокноты удобны для начинающих! Добавьте свой набор данных, нажмите «Запустить все», и вы получите точно настроенную модель в 2 раза быстрее. — Этот разговорный блокнот Llama 3.2 (Conversational.ipynb) полезен для шаблонов ShareGPT ChatML/Vicuna. — Этот блокнот для завершения текста — TextCompletion.ipynb) предназначен для необработанного текста. Этот блокнот DPO копирует Zephyr. — Kaggle имеет 2x T4, но мы используем 1. Из-за накладных расходов 1x T4 работает в 5 раз быстрее. Наши данные обучения являются расширением данных, используемых для Phi-3, и включают в себя широкий спектр источников: 1. Общедоступные документы, тщательно отфильтрованные по качеству, избранные высококачественные образовательные данные и код. 2. Вновь созданные синтетические, «учебные» данные…
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Диалог / чат
Задача: Генерация текста
Автор: unsloth
Теги: llama, phi, phi4, unsloth, nlp, math, code, chat
Лайков: 64 | Загрузок: 11,272
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
