Это версия Qwen/Qwen3-Coder-480B-A35B-Instruct без цензуры, созданная с помощью аблитерации (более подробную информацию об этом см. в разделе «Удалить-отказы-с-трансформерами»). Это грубая, экспериментальная реализация для устранения отказов из модели LLM без использования TransformerLens. Вы можете использовать huihuiai/qwen3-coder-abliterated:480b-a35b-instruct-q3K_M напрямую. Важное обновление: поскольку ранее загруженный шаблон чата Q4KM не был совместим с инструментом Opencode, мы удалили его. Поэтому мы изменили шаблон чата и теперь загружаем версию Q2_K, которую можно использовать в Opencode. Используйте программу разделения llama.cpp для объединения модели (необходимо скомпилировать llama-gguf-split). Используя llama-serve и инструмент тестирования открытого кода для проверки вызовов, становится очевидным, что производительность превосходна. Ниже приведены соответствующие конфигурации openconde.json, используемые в среде Docker. — Риск конфиденциальных или противоречивых результатов: безопасная фильтрация этой модели была значительно уменьшена, что потенциально может создавать конфиденциальный, противоречивый или неприемлемый контент. Пользователи должны проявлять осторожность и тщательно проверять полученные результаты. — Подходит не для всех аудиторий: из-за…
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода Следование инструкциям
Задача: Генерация текста
Автор: huihui-ai
Теги: gguf, chat, abliterated, uncensored, GGUF, endpoints_compatible, conversational
Лайков: 13 | Загрузок: 284
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
