KBTG-Labs/THaLLE-0.1-7B-fa-GGUF

This model was converted to GGUF format from KBTG-Labs/THaLLE-0.1-7B-fa using llama.cpp. Refer to the original model card for more details on the model. Invoke the llama.cpp server or the CLI with your perfered quantization level («q2k», «q3km», «q4km», «q5km», «q6k», «q8_0», «f16»). Smaller quantization is faster and use less memory, but will be less accurate. Step 2: Move into the llama.cpp folder and build it with LLAMACURL=1 flag along with other hardware-specific flags (for ex: LLAMACUDA=1 for Nvidia GPUs on Linux).

Модальности:
Генерация текста

Области применения:
Диалог / чат Финансы

Задача: Генерация текста
Автор: KBTG-Labs
Теги: gguf, finance, llama-cpp, en, endpoints_compatible, conversational
Лайков: 3  |  Загрузок: 121

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.