У нас есть бесплатный ноутбук Google Colab Tesla T4 для Llama 3.1 (8B) здесь: https://colab.research.google.com/drive/1Ys44kVvmeZtnICzWz0xgpRnrIOjZAuxp?usp=sharing Все ноутбуки удобны для начинающих! Добавьте свой набор данных, нажмите «Запустить все», и вы получите в 2 раза более быструю точно настроенную модель, которую можно экспортировать в GGUF, vLLM или загрузить в Hugging Face. Авторы: Ашвини Кумар Джиндал, Паван Кумар Раджпут, Анкур Парих, Акшита Сухлеча 🤗 Блог об анонсе Hugging Face: https://huggingface.co/blog/akjindal53244/llama31-storm8b Мы представляем модель Llama-3.1-Storm-8B, которая превосходит по производительности Meta AI. Модели Llama-3.1-8B-Instruct и Hermes-3-Llama-3.1-8B существенно отличаются в различных тестах, как показано на графике сравнения производительности в следующем разделе. Наш подход состоит из трех ключевых этапов: 1. Самокурирование. Мы применили два метода самокурирования, чтобы выбрать примерно 1 миллион высококачественных примеров из пула примерно в 2,8 миллиона примеров с открытым исходным кодом. Наши критерии курирования были сосредоточены на образовательной ценности и уровне сложности, используя один и тот же SLM для аннотаций вместо более крупных моделей (например, 70B, 405B). 2. Целевая точная настройка: мы выполнили целевую тонкую настройку на основе спектра для Llama-3.1-8B-Instruct…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: unsloth
Теги: llama, llama-3, meta, facebook, unsloth, conversational, en, text-generation-inference
Лайков: 7 | Загрузок: 20
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
