Динамические 4-битные: динамические 4-битные кванты Unsloth выборочно избегают квантования определенных параметров, что значительно повышает точность, чем стандартные 4-битные. См. нашу полную коллекцию квантов Unsloth на Hugging Face здесь. У нас есть бесплатный ноутбук Google Colab Tesla T4 для Llama 3.1 (8B) здесь: https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Llama3.1_(8B)-Alpaca.ipynb Все ноутбуки удобны для новичков! Добавьте свой набор данных, нажмите «Запустить все», и вы получите в 2 раза более быструю точно настроенную модель, которую можно экспортировать в GGUF, vLLM или загрузить в Hugging Face. — Этот разговорный блокнот Llama 3.2 (Conversational.ipynb) полезен для шаблонов ShareGPT ChatML/Vicuna. — Этот блокнот для завершения текста — TextCompletion.ipynb) предназначен для необработанного текста. Этот блокнот DPO копирует Zephyr. — Kaggle имеет 2x T4, но мы используем 1. Из-за накладных расходов 1x T4 работает в 5 раз быстрее. Огромное спасибо команде DeepSeek за создание и выпуск этих моделей. Мы представляем наши модели рассуждения первого поколения: DeepSeek-R1-Zero и DeepSeek-R1. DeepSeek-R1-Zero, модель, обученная с помощью крупномасштабного обучения с подкреплением (RL) без контролируемой точной настройки (SFT) в качестве предварительного шага, продемонстрировала замечательную производительность на…
Модальности:
Генерация текста
Области применения:
Диалог / чат Логика и рассуждение
Задача: Генерация текста
Автор: unsloth
Теги: qwen2, deepseek, qwen, unsloth, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 24 | Загрузок: 9,877
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
