— Это квантованная версия мета-ламы/Meta-Llama-3-70B-Instruct GGUF, созданная с использованием llama.cpp. — Создана с использованием последней версии llama.cpp от 5 мая 2024 г. Компания Meta разработала и выпустила семейство больших языковых моделей (LLM) Meta Llama 3, коллекцию предварительно обученных и настроенных инструкций генеративных текстовых моделей размером 8 и 70B. Модели Llama 3, настроенные на инструкции, оптимизированы для сценариев использования диалога и превосходят многие доступные модели чата с открытым исходным кодом по общим отраслевым тестам. Кроме того, при разработке этих моделей мы уделили большое внимание оптимизации полезности и безопасности. Вариации Llama 3 выпускается в двух размерах — с параметрами 8B и 70B — в предварительно обученных и настроенных по инструкциям вариантах. Архитектура модели Llama 3 — это авторегрессионная языковая модель, использующая оптимизированную архитектуру преобразователя. В настроенных версиях используется контролируемая точная настройка (SFT) и обучение с подкреплением с обратной связью от человека (RLHF), чтобы соответствовать предпочтениям человека в отношении полезности и безопасности. Параметры обучающих данных Длина контекста GQA Количество токенов Ограничение знаний Llama 3 Новое сочетание общедоступных онлайн-данных. 8B 8k Да 15T+ Март 2023 г. 70B 8k Да Декабрь 2023 г. Лама 3 семейства…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, facebook, meta, llama, llama-3, en, endpoints_compatible, conversational
Лайков: 16 | Загрузок: 519
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
