This model was converted to GGUF format from pcuenq/Qwen2.5-0.5B-Instruct-with-new-merges-serialization using llama.cpp via the ggml.ai’s GGUF-my-repo space. Refer to the original model card for more details on the model. Step 2: Move into the llama.cpp folder and build it with LLAMACURL=1 flag along with other hardware-specific flags (for ex: LLAMACUDA=1 for Nvidia GPUs on Linux).
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: pcuenq
Теги: gguf, chat, llama-cpp, gguf-my-repo, en, endpoints_compatible, conversational
Лайков: 3 | Загрузок: 60
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.