Это децензурированная («удаленная») версия google/gemma-4-12B-it, созданная полностью автоматически с помощью Heretic. Heretic устраняет отказы в выравнивании безопасности посредством направленной абляции (сохраняющей нормы, двухпроекционной аблитерации), в то время как оптимизатор TPE одновременно минимизирует частоту отказов и отклонение KL от исходной модели, поэтому модель без цензуры сохраняет как можно больше возможностей оригинала. Дивергенция KL 0,0284 очень мала — для справки: собственный gemma-3-12b-it-heretic от Heretic сообщает о 3/100 отказов при KL 0,16; более низкий KL означает меньшую потерю мощности. Джемма-4 — это гибридная модель мышления. Эта аблитерация нацелена на прямой (немыслящий) ответ, который также является стандартным для Джеммы-4 (enablethinking=False). Модель полностью лишена цензуры в режиме без мышления, и этот режим дает наилучшие результаты для ролевых игр и творческого письма. В режиме размышления рассуждения также не подвергаются цензуре, но они потребляют бюджет токенов — задайте для него большое значение maxnewtokens, чтобы окончательный ответ не был обрезан, или просто используйте режим необдумывания по умолчанию. (Пользователям GGUF/Ollama: см. репозиторий GGUF, чтобы узнать, как отключить мышление, например /set nothink`.) Квантование GGUF для llama.cpp/Ollama:…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: igorls
Теги: gemma4_unified, image-text-to-text, heretic, uncensored, decensored, abliterated, gemma-4, conversational
Лайков: 9 | Загрузок: 472
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
