unsloth/Phi-4-mini-instruct-GGUF - Каталог нейросетей
Генерация текста

unsloth/Phi-4-mini-instruct-GGUF

Добавлено:
unsloth/Phi-4-mini-instruct-GGUF

Это мини-инструкция Phi-4 с нашими ИСПРАВЛЕНИЯМИ ОШИБОК. В нашей коллекции представлены версии Phi-4 с исправлениями ошибок, включая GGUF и 4-битные форматы. Динамические кванты Phi-4 от Unsloth квантоваются выборочно, что значительно повышает точность по сравнению со стандартными 4-битными числами. Настройте свою собственную модель рассуждения, такую ​​как R1, с помощью Unsloth! У нас есть бесплатный блокнот Google Colab для превращения Phi-4 в модель рассуждения: https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Phi4(14B)-GRPO.ipynb Все блокноты удобны для новичков! Добавьте свой набор данных, нажмите «Запустить все», и вы получите в 2 раза более быструю точно настроенную модель, которую можно экспортировать в GGUF, vLLM или загрузить в Hugging Face. — Этот разговорный блокнот Llama 3.2 (Conversational.ipynb) полезен для шаблонов ShareGPT ChatML/Vicuna. — Этот блокнот для завершения текста — TextCompletion.ipynb) предназначен для необработанного текста. Этот блокнот DPO копирует Zephyr. — Kaggle имеет 2x T4, но мы используем 1. Из-за накладных расходов 1x T4 работает в 5 раз быстрее. 1. Токены Padding и EOS одинаковы — исправлено. 2. В шаблоне чата был дополнительный токен EOS — его удалили. В противном случае вы будете во время вывода. 3. Токен EOS не должен быть . В противном случае он завершится на 4. Изменен unk_token на �…

Модальности:
Генерация текста

Области применения:
Генерация кода Математика Диалог / чат Мультиязычность Следование инструкциям


Задача: Генерация текста
Автор: unsloth
Теги: gguf, phi3, phi, phi4, unsloth, nlp, code, microsoft
Лайков: 82  |  Загрузок: 22,311

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.