Llama-3.2-3B-Instruct-Frog — LLaMA3.2, оптимизированная для RAG, для вьетнамской квантовой версии: phamhai/Llama-3.2-3B-Instruct-Frog-Q4KM-GGUF. В конце сентября 2024 года Meta выпустила две облегченные версии модели LLM: Llama-3.2-1B-Instruct и Llama-3.2-3B-Instruct. Однако эти модели не очень хорошо поддерживаются для вьетнамского языка, особенно для задач, связанных с поисково-дополненной генерацией (RAG). Сегодня я рад объявить о выпуске двух моделей, специально подготовленных для обеспечения лучшей поддержки задач вьетнамской RAG. + Базовые модели: Llama-3.2-1B-Instruct и Llama-3.2-3B-Instruct + Производительность: модели оптимизированы для быстрого вывода и могут быть легко развернуты на локальных и периферийных устройствах (ноутбук/смартфон/NVIDIA Jetson Xavier/Raspberry Pi и т. д.). + Вес модели: + Llama-3.2-1B-Instruct-Frog: длина контекста 131 КБ, 1 миллиард параметров + Llama-3.2-3B-Instruct-Frog: длина контекста 131 КБ, 3 миллиарда параметров Условия использования и лицензии: Используя наши выпущенные веса, вы соглашаетесь и соблюдаете условия, указанные в лицензии Meta LLaMA-3. Мы оценили эту модель на тесте VLMU и достигли точности 45,13. Однако этот критерий не является целью…
Модальности:
Генерация текста
Области применения:
Диалог / чат RAG (поиск + генерация) Суммаризация Следование инструкциям
Задача: Генерация текста
Автор: phamhai
Теги: llama, RAG, Vietnamese, Generation, Function_Calling, Function Calling, FC, Summarization
Лайков: 16 | Загрузок: 851
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
