Некоторые файлы и метаданные в этом хранилище все еще загружаются и проверяются. Это версия GGUF урезанной версии Kimi-K2.6 от Moonshot AI. Применяя Heretic к текстовому стеку Kimi-K2.6, исходное поведение отказа удаляется на уровне веса, сохраняя при этом мультимодальную архитектуру модели. Kimi-K2.6 — это модель языка видения с разреженным MoE, предоставляемая через оболочку KimiK25ForConditionalGeneration, с текстовым стеком в стиле DeepSeek V3 и отдельным путем видения. Этот выпуск выпущен только с использованием вмешательства Еретиков на текстовой стороне. Видеокодер и мультимодальный проектор сохранены. — Kimi-K2.6-Abliterated-Heretic-BF16/: источник BF16 GGUF — Kimi-K2.6-Abliterated-Heretic-Q80/: квант высочайшей точности — Kimi-K2.6-Abliterated-Heretic-Q6K/: практический квант практически без потерь — Kimi-K2.6-Abliterated-Heretic-Q4KM/: меньший Квант общего назначения — Kimi-K2.6-Abliterated-Heretic-Q2K/: самый низкий стандартный квант в этой лестнице — mmproj-Kimi-K2.6-Abliterated-Heretic.gguf`: соответствующий файл мультимодального проектора для использования llama.cpp Vision В этой модели поведение отказа было удалено на уровне веса. Он будет отвечать на запросы, от которых базовая модель обычно отказывается. Ты…
Модальности:
Генерация текста Мультимодальность
Задача: Генерация текста
Автор: Youssofal
Теги: gguf, kimi, kimi-k2, kimi-k2.6, kimi_k25, moe, mixture-of-experts, multimodal
Лайков: 14 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
