У нас есть бесплатный ноутбук Google Colab Tesla T4 для Llama 3.2 (3B) здесь: https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Llama3.1_(8B)-Alpaca.ipynb Для получения более подробной информации о модели перейдите на карточку оригинальной модели Meta. Все ноутбуки удобны для начинающих! Добавьте свой набор данных, нажмите «Запустить все», и вы получите в 2 раза более быструю точно настроенную модель, которую можно экспортировать в GGUF, vLLM или загрузить в Hugging Face. — Этот разговорный блокнот Llama 3.2 (Conversational.ipynb) полезен для шаблонов ShareGPT ChatML/Vicuna. — Этот блокнот для завершения текста — TextCompletion.ipynb) предназначен для необработанного текста. Этот блокнот DPO копирует Zephyr. — Kaggle имеет 2x T4, но мы используем 1. Из-за накладных расходов 1x T4 работает в 5 раз быстрее. Огромное спасибо команде Meta и Llama за создание и выпуск этих моделей. Коллекция многоязычных моделей больших языков (LLM) Meta Llama 3.2 представляет собой коллекцию предварительно обученных и настроенных с помощью инструкций генеративных моделей размеров 1B и 3B (ввод/вывод текста). Текстовые модели Llama 3.2, настроенные только на инструкции, оптимизированы для случаев использования многоязычного диалога, включая задачи агентного поиска и обобщения. Они превосходят многие доступные программы с открытым исходным кодом и…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: unsloth
Теги: llama, llama-3, meta, facebook, unsloth, conversational, en, text-generation-inference
Лайков: 10 | Загрузок: 76,641
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
