Этот репозиторий содержит исходный код полной точности в формате «безопасных тензоров» для создания GGUF, GPTQ, EXL2, AWQ, HQQ и других форматов. Исходный код также можно использовать напрямую. Этот репозиторий предназначен для превосходного «Josiefied-Qwen3-8B-abliterated-v1» Гёкдениза-Гельмеса, измененного с контекста 32 КБ (32768) на контекст 192 КБ (196608), модифицированного с использованием YARN согласно техническим примечаниям в репозитории Qwen. [ https://huggingface.co/Goekdeniz-Guelmez/Josiefied-Qwen3-8B-abliterated-v1 ] Предложите минимальный лимит контекста: от 8 до 16 тысяч для «мышления» / «вывода». Чтобы улучшить производительность вывода длинных форм (особенно творческих): — Температура 1+, 2+ или выше. — Top k 100+ — Rep pen 1.02-1.09 Пожалуйста, обратитесь к карточке модели QWEN для получения подробной информации, тестов, способов использования, настроек, включения/выключения рассуждения/системных ролей и т. д. и т. д. Это может вам понадобиться, а может и не понадобиться, поскольку в большинстве случаев Qwen3 генерируют свои собственные блоки рассуждения/мышления. См. документ «Максимизация модели-производительности-все…» ниже, чтобы узнать, как «установить» системную роль в различных приложениях LLM/AI ниже. ВАЖНО: Настройки высочайшего качества / Руководство по оптимальной эксплуатации / Параметры и пробоотборники. Если вы собираетесь использовать эту модель (источник, GGUF или другой количественный анализ), просмотрите этот документ на предмет критических параметров…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: qwen3, 192k context, reasoning, thinking, uncensored, conversational, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
