Эта версия Llama-3.2-3B-Instruct была преобразована для запуска на NPU RK3588 с использованием квантования [‘w8a8’, ‘w8a8g128’, ‘w8a8g256’, ‘w8a8_g512’]. Эта модель была оптимизирована с помощью следующего LoRA: Практически все, что есть у этих людей: marty1885 и happyme531 Конвертировано с помощью https://github.com/c0zaut/ez-er-rkllm-toolkit Коллекция Llama 3.2 многоязычных больших языковых моделей (LLM) представляет собой коллекцию предварительно обученных и настроенных на инструкцию генеративных моделей в размерах 1B и 3B (текст в/текст). Настраиваемые только для текстовых инструкций модели Llama 3.2 оптимизированы для многоязычных сценариев использования диалога, включая задачи агентного поиска и суммирования. Они превосходят многие из доступных моделей с открытым исходным кодом и закрытых чатов по общим отраслевым тестам. Архитектура модели: Llama 3.2 — это авторегрессионная языковая модель, использующая оптимизированную архитектуру трансформатора. Настроенные версии используют контролируемую точную настройку (SFT) и обучение с подкреплением с обратной связью с человеком (RLHF), чтобы соответствовать предпочтениям человека в отношении полезности и безопасности. Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский официально поддерживаются. Лама 3.2 прошла обучение на…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: c01zaut
Теги: llama, facebook, meta, llama-3, conversational, en, de, fr
Лайков: 3 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
