Кванты найдены здесь: https://huggingface.co/Lewdiculous/KukulStanta-7B-GGUF-IQ-Imatrix Чтобы использовать мультимодальные возможности этой модели и использовать зрение, вам необходимо загрузить указанный файл mmproj, его можно найти внутри репозитория этой модели. Вы можете загрузить mmproj**, воспользовавшись соответствующим разделом интерфейса:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ChaoticNeutrals
Теги: mistral, model-index, text-generation-inference, endpoints_compatible
Лайков: 14 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.