ibm-granite_granite-3.3-2b-instruct-GGUF
Исходная модель: https://huggingface.co/ibm-granite/granite-3.3-2b-instruct. Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Некоторые из...
Метка: language
granite-3.2-2b-instruct-abliterated
Это нецензурированная версия ibm-granite/granite-3.2-2b-instruct, созданная с аблитерацией (более подробную информацию об этом см. в разделе «Удалить-отказы-с-трансформерами»). Это грубая,...
ibm-granite_granite-3.2-8b-instruct-GGUF
Исходная модель: https://huggingface.co/ibm-granite/granite-3.2-8b-instruct. Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Некоторые из...
granite-embedding-107m-multilingual-GGUF
Исходная модель: https://huggingface.co/ibm-granite/granite-embedding-107m-multilingual Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) являются стандартным методом квантования, в котором...
granite-3.0-2b-instruct-GGUF
Исходная модель: https://huggingface.co/ibm-granite/granite-3.0-2b-instruct Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
granite-3.0-3b-a800m-base
Краткое описание модели: Granite-3.0-3B-A800M-Base — это языковая модель, предназначенная только для декодера и поддерживающая различные задачи преобразования текста...
granite-4.1-3b
> [!NOTE] > Включает исправления шаблона чата Unsloth! Для llama.cpp используйте —jinja > Unsloth Dynamic 2.0 обеспечивает превосходную...
ibm-granite_granite-4.1-8b-GGUF
Исходная модель: https://huggingface.co/ibm-granite/granite-4.1-8b — llama.cpp — ramalama — LM Studio — koboldcpp — Jan AI — Веб-интерфейс создания...
granite-4.1-3b-GGUF
> [!NOTE] > Этот репозиторий содержит модели, преобразованные в формат GGUF с различными квантованиями из модели IBM Granite...
granite-4.0-tiny-preview-GGUF
> [!NOTE] > Этот репозиторий содержит модели, преобразованные в формат GGUF с использованием различных квантований из базовой модели...