— Исходная модель: beomi/Llama-3-Open-Ko-8B — квантована с использованием llama.cpp > Обновление от 2024.04.24: выпуск модели Llama-3-Open-Ko-8B и Llama-3-Open-Ko-8B-Instruct-preview Модель Llama-3-Open-Ko-8B представляет собой продолжающуюся предварительно обученную языковую модель, основанную на Каркас Лама-3-8Б. Эта модель обучена на более чем 60 ГБ дедуплицированных текстов, полученных из общедоступных ресурсов. С новым токенизатором Llama-3 модель была предварительно обучена более чем на 17,7 млрд токенов, что немного больше, чем обработано корейским токенизатором Llama-2. Обучение проводилось на TPUv5e-256 при поддержке программы Google TRC. Модель инструкций под названием Llama-3-Open-Ko-8B-Instruct-preview включает в себя концепции из статьи Chat Vector. Эта модель представляет собой предварительную версию и не была доработана с помощью какого-либо корейского набора инструкций, что делает ее хорошей отправной точкой для разработки новых моделей чата и инструкций. Семейство больших языковых моделей (LLM) Meta Llama 3, разработанное и выпущенное компанией Meta, оптимизировано для сценариев использования диалога и превосходит общие отраслевые стандарты, подчеркивая полезность и безопасность. Вариации: Лама-3-Опен-Ко выпускается в одной комплектации — 8Б. Ввод/вывод: Модели…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: teddylee777
Теги: gguf, llama, facebook, meta, llama-3, llama-3-ko, conversational, en
Лайков: 51 | Загрузок: 1,206
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
