Не прошедшее цензуру объединение Qwen 3.5 9B с GGUF, готовое к локальному развертыванию с помощью Ollama, llama.cpp или любой среды выполнения, совместимой с GGUF. Эта модель построена на основе HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive. Исходная базовая модель имеет следующие известные проблемы: 1. Сбой развертывания Ollama. Базовую модель невозможно развернуть напрямую через Ollama из-за несовместимости архитектуры/формата. Эта версия GGUF решает проблему путем преобразования и объединения весов в один файл GGUF, который Оллама может загрузить в исходном виде. 2. Неисправный мультимодальный ввод. Упаковка базовой модели приводит к сбоям в работе мультимодального ввода (например, изображения). Хотя базовая архитектура Qwen 3.5 поддерживает возможности машинного зрения, способ упаковки исходной модели нарушает мультимодальный вывод. В этом репозитории представлена квантованная версия GGUF Q4KM, которая устраняет проблему развертывания Ollama, сохраняя при этом модель компактной и эффективной. Затем вызовите http://localhost:8000/v1/chat/completions с помощью любого клиента, совместимого с OpenAI. Эта модель служит локальной резервной моделью зрения в PhdBooster — помощнике по просмотру страниц на базе искусственного интеллекта, который помогает аспирантам оптимизировать свои короткие видеопотоки. Жизнь доктора наук полна стрессов. Вы открываете Douyin или…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LEONW24
Теги: gguf, qwen3.5, uncensored, ollama, en, zh, endpoints_compatible, conversational
Лайков: 41 | Загрузок: 12,084
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
