ijohn07/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16-Q4_K_M-GGUF

This model was converted to GGUF format from nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 using llama.cpp via the ggml.ai’s GGUF-my-repo space. Refer to the original model card for more details on the model. Step 2: Move into the llama.cpp folder and build it with LLAMACURL=1 flag along with other hardware-specific flags (for ex: LLAMACUDA=1 for Nvidia GPUs on Linux).

Модальности:
Генерация текста

Задача: Генерация текста
Автор: ijohn07
Теги: gguf, nvidia, nemotron-3.5, llama-cpp, gguf-my-repo, en, es, fr
Лайков: 3  |  Загрузок: 83

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.