granite-3.1-2b-instruct-GGUF
This is quantized version of ibm-granite/granite-3.1-2b-instruct created using llama.cpp Model Summary: Granite-3.1-2B-Instruct is a 2B parameter long-context instruct...
This is quantized version of ibm-granite/granite-3.1-2b-instruct created using llama.cpp Model Summary: Granite-3.1-2B-Instruct is a 2B parameter long-context instruct...
👾 LM Studio Community models highlights program. Highlighting new & noteworthy models by the community. Join the conversation...
Original model: https://huggingface.co/ibm-granite/granite-3.1-2b-instruct Some of these quants (Q3KXL, Q4KL etc) are the standard quantization method with the embeddings...
This is quantized version of ibm-granite/granite-3.0-1b-a400m-base created using llama.cpp Model Summary: Granite-3.0-1B-A400M-Base is a decoder-only language model to...
This is quantized version of ibm-granite/granite-3.0-1b-a400m-instruct created using llama.cpp Model Summary: Granite-3.0-1B-A400M-Instruct is an 1B parameter model finetuned...
Базовая языковая модель 7B, предварительно обученная на тексте на хинди с размером контекста 256. Гири инициализированы с модели...
Это нецензурированная версия ibm-granite/granite-4.1-3b, созданная с аблитерацией (более подробную информацию об этом см. в разделе «Удалить-отказы-с-трансформерами»). Это грубая,...
> [!NOTE] > Этот репозиторий содержит модели, преобразованные в формат GGUF с различными квантованиями из модели IBM Granite...
📣 Обновление [10.07.2025]: в шаблон чата добавлено системное приглашение по умолчанию, которое помогает модели получать более профессиональные, точные...
Это версия IBM-granite/granite-4.0-h-micro без цензуры, созданная с помощью аблитерации (более подробную информацию об этом см. в разделе «Удалить-отказы-с-трансформерами»)....