granite-3.1-3b-a800m-base-GGUF
This is quantized version of ibm-granite/granite-3.1-3b-a800m-base created using llama.cpp Model Summary: Granite-3.1-3B-A800M-Base extends the context length of Granite-3.0-3B-A800M-Base...
Метка: granite-3.1
granite-3.1-1b-a400m-instruct-GGUF
This is quantized version of ibm-granite/granite-3.1-1b-a400m-instruct created using llama.cpp Model Summary: Granite-3.1-1B-A400M-Instruct is a 8B parameter long-context instruct...
granite-3.1-2b-instruct-GGUF
This is quantized version of ibm-granite/granite-3.1-2b-instruct created using llama.cpp Model Summary: Granite-3.1-2B-Instruct is a 2B parameter long-context instruct...
granite-3.1-2b-instruct-GGUF
Original model: https://huggingface.co/ibm-granite/granite-3.1-2b-instruct Some of these quants (Q3KXL, Q4KL etc) are the standard quantization method with the embeddings...
granite-3.1-1b-a400m-base-GGUF
Это квантованная версия ibm-granite/granite-3.1-1b-a400m-base, созданная с использованием llama.cpp. Краткое описание модели: Granite-3.1-1B-A400M-Base расширяет длину контекста Granite-3.0-1B-A400M-Base с 4...
granite-3.1-8b-instruct-GGUF
Это квантованная версия ibm-granite/granite-3.1-8b-instruct, созданная с использованием llama.cpp. Краткое описание модели: Granite-3.1-8B-Instruct — это 8B-параметрическая модель инструкций с...
granite-3.1-3b-a800m-instruct-GGUF
Это квантованная версия ibm-granite/granite-3.1-3b-a800m-instruct, созданная с использованием llama.cpp. Краткое описание модели: Granite-3.1-3B-A800M-Instruct — это модель инструкций с длинным...
granite-3.1-3b-a800m-instruct-GGUF
Исходная модель: https://huggingface.co/ibm-granite/granite-3.1-3b-a800m-instruct Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
granite-3.1-1b-a400m-base
Краткое описание модели: Granite-3.1-1B-A400M-Base увеличивает длину контекста Granite-3.0-1B-A400M-Base с 4 КБ до 128 КБ, используя стратегию прогрессивного обучения,...
granite-3.1-3b-a800m-base
Краткое описание модели: Granite-3.1-3B-A800M-Base увеличивает длину контекста Granite-3.0-3B-A800M-Base с 4 КБ до 128 КБ, используя стратегию прогрессивного обучения,...