У нас есть бесплатный ноутбук Google Colab Tesla T4 для Llama 3.2 (3B) здесь: https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Llama3.1_(8B) -Alpaca.ipynb Для получения более подробной информации о модели, пожалуйста, перейдите на оригинальную карточку модели Meta Все ноутбуки подходят для начинающих! Добавьте свой набор данных, нажмите «Запустить все», и вы получите в 2 раза более быструю доработанную модель, которую можно экспортировать в GGUF, vLLM или загрузить в Hugging Face. — Эта разговорная записная книжка Llama 3.2-Conversational.ipynb) полезна для шаблонов ShareGPT ChatML/ Vicuna. — This text completion notebook-TextCompletion.ipynb) is for raw text. Эта записная книжка DPO воспроизводит Zephyr. — Kaggle имеет 2x T4, но мы используем 1. Из-за накладных расходов 1x T4 в 5 раз быстрее. Огромное спасибо команде Meta и Llama за создание и выпуск этих моделей. Коллекция многоязычных больших языковых моделей (LLM) Meta Llama 3.2 представляет собой коллекцию предварительно обученных и настроенных на инструкцию генеративных моделей в размерах 1B и 3B (ввод текста/вывод текста). Настраиваемые только для текстовых инструкций модели Llama 3.2 оптимизированы для многоязычных сценариев использования диалога, включая задачи агентного поиска и суммирования. Они превосходят многие из доступных программ с открытым исходным кодом и…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: unsloth
Теги: llama, llama-3, meta, facebook, unsloth, conversational, en, text-generation-inference
Лайков: 4 | Загрузок: 46,679
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.