> [!NOTE] > Этот репозиторий содержит модели, преобразованные в формат GGUF с различными квантованиями из модели IBM Granite .safetensors. > > Пожалуйста, обратитесь к полной карточке базовой модели здесь: > https://huggingface.co/ibm-granite/granite-4.1-30b Модель bf16 пришлось разделить на несколько файлов, чтобы учесть ограничения на размер одного файла, с помощью инструмента llama-gguf-split с его настройками —split по умолчанию, которые можно создать из проекта ggml-org/llama.cpp. Используйте следующую команду для объединения разделенных файлов, которая указывает на первый файл в последовательности: Остальные имена разделенных файлов определяются инструментом на основе соглашения об именовании 00001-из-0000x.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: ibm-granite
Теги: gguf, language, granite-4.1, conversational
Лайков: 5 | Загрузок: 2,669
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
