granite-3.0-3b-a800m-instruct-GGUF
Original model: https://huggingface.co/ibm-granite/granite-3.0-3b-a800m-instruct Some of these quants (Q3KXL, Q4KL etc) are the standard quantization method with the embeddings...
Original model: https://huggingface.co/ibm-granite/granite-3.0-3b-a800m-instruct Some of these quants (Q3KXL, Q4KL etc) are the standard quantization method with the embeddings...
This is the DPO aligned model based on the SFT trained model Schaapje-2B-Chat-SFT-V1.0. General Dutch Chat and/or Instruction...
This is quantized version of ibm-granite/granite-3.0-1b-a400m-base created using llama.cpp Model Summary: Granite-3.0-1B-A400M-Base is a decoder-only language model to...
This is quantized version of ibm-granite/granite-3.0-1b-a400m-instruct created using llama.cpp Model Summary: Granite-3.0-1B-A400M-Instruct is an 1B parameter model finetuned...
Исходная модель: https://huggingface.co/ibm-granite/granite-3.0-2b-instruct Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Краткое описание модели: Granite-3.0-3B-A800M-Base — это языковая модель, предназначенная только для декодера и поддерживающая различные задачи преобразования текста...
Исходная модель: https://huggingface.co/ibm-granite/granite-3.0-1b-a400m-instruct Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Краткое описание модели: Granite-3.0-1B-A400M-Base — это языковая модель, предназначенная только для декодера и поддерживающая различные задачи преобразования текста...
Исходная модель: https://huggingface.co/ibm-granite/granite-3.0-8b-instruct Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Краткое описание модели: Granite-3.0-1B-A400M-Instruct — это модель с параметрами 1B, точно настроенная на основе Granite-3.0-1B-A400M-Base с использованием комбинации...