Это полностью не прошедшая цензуру, полная глубокая настройка Gemma 1B с использованием набора данных рассуждений GLM 4.7 через Unsloth через локальное оборудование, Linux (для Windows) с точностью до 16 бит. Эта модель делает то, что вы хотите. Именно то, что вы хотите, никакой суеты – никакой няни. Рассуждения компактные, но подробные (очень подробные) и прямо «в точку», так сказать. Рассуждения влияют на: — общую работу модели. — Генерация результатов — Контрольные показатели. Особенности модели: — Контекст 32К — Диапазон температур от 0,1 до 2,5. — Рассуждение стабильно во времени. — Вы можете активировать, используя «Подумайте глубоко: подсказка» (не требуется в большинстве случаев). — Подсказка системы повлияет на рассуждения и формирование результатов. — Системная подсказка/шаблон НЕ требуется для генерации рассуждений. ВАЖНЫЕ НАСТРОЙКИ/КОЛИЧЕСТВА: — Настоятельно рекомендуется использовать точность q5, q6, q8 или 16 бит ИЛИ Imatrix IQ3_M мин. — Реп-ручка с 1,05 по 1,1. — Если во время мышления возникает зацикливание, уменьшите температуру до 0,3–0,7. — Кванты ниже Q4 (не imatrix) могут зацикливаться даже при использовании пера Rep при температуре 1,1 / более низкой температуре. Использование модели «без цензуры» (отказы удалены) VS обученной модели «без цензуры» Обычно, когда вы просите модель генерировать контент ужасов, ругательств или контента с рейтингом x, это все, что вам нужно сделать, чтобы получить указанный тип контента. В случае с этим…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: DavidAU
Теги: uncensored, heretic, abliterated, unsloth, finetune, All use cases, bfloat16, creative
Лайков: 6 | Загрузок: 102
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
