Представляем первую в мире базовую модель «Лама-3» с параметрами 6В. Эта модель представляет собой предварительно обученную версию Prince-canuma/Llama-3-6B-v0, которая была создана на основе Meta-Llama-3-8B с использованием техники, называемой даунциклингом. Модель постоянно подвергалась предварительному обучению на 1 миллиарде токенов текста только на английском языке из Fineweb, что позволило добиться впечатляющих результатов на оценочном наборе: — Потеря: 2,4942. Это карточка модели 🤗 модели трансформеров, которая была размещена на Hub. Эта карточка модели была создана автоматически. – Разработчик: Prince Canuma – Спонсор: General – Тип модели: Llama – Лицензия: Llama-3 – Предварительное обучение на основе модели: Prince-canuma/Llama-3-6B-v0 – Репозиторий: https://github.com/Blaizzy/Coding-LLMs-from-scratch/tree/main/Llama-3 – Видео: https://youtube.com/playlist?list=PLDnJsyofyfTH55V1MNb8UYKxMl6IMNy&si=5Y4cm-6wrMOD1Abr Вы можете использовать эту модель для создания версий инструкций и чата для различных вариантов использования, таких как: помощник по кодированию, RAG, вызов функций и многое другое. Эта модель унаследовала некоторые ограничения базовой модели и некоторые дополнительные ограничения процесса ее создания, такие как: — Ограниченные возможности для кодирования и математических вычислений: согласно тестам, эта модель требует дополнительной предварительной подготовки/тонкой настройки…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: prince-canuma
Теги: llama, Llama-3-6B, 6B, en, text-generation-inference, endpoints_compatible
Лайков: 14 | Загрузок: 71
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
