Это квантованная версия любопытно/Llama-3-8B-Instruct-Finance-RAG, созданная с использованием llama.cpp. Эта модель представляет собой доработанную версию исходной модели Llama 3 8B Instruct на 4000 примерах из набора данных virattt/financial-qa-10K. Модель точно настраивается с помощью адаптера LoRA для сценариев использования RAG. Он оптимизирован для ответа на вопрос в зависимости от контекста: Форматирование подсказки (используется исходный формат подсказки Instruct): Вот пример прогнозов на основе обученных и необученных моделей. Используется исходная лицензия Llama 3. Специальную коммерческую лицензию можно получить по адресу: https://llama.meta.com/llama3/license.
Модальности:
Генерация текста
Области применения:
Диалог / чат Финансы Следование инструкциям
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, finance, en, endpoints_compatible, conversational
Лайков: 59 | Загрузок: 650
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
