Rombos-LLM-V3.0-Qwen-72b — это усовершенствованная версия Rombos-LLM-V2.5-Qwen-72b для набора данных для рассуждений и нерассуждений. Модели работают исключительно хорошо в сочетании с системными подсказками, на которых они обучались во время обучения рассуждению. Близится уровень SOTA, даже квантованный до 4-бит. Я настоятельно рекомендую использовать температуру 0,4 при использовании этой модели (особенно с подсказкой системы рассуждений). Для множественных рассуждений, также называемых оптимизированными рассуждениями, системная подсказка выглядит следующим образом. (Рекомендуется) Для простого рассуждения или традиционного рассуждения вы можете использовать приведенную ниже системную подсказку: Для случаев использования без рассуждений системная подсказка не требуется (не рекомендуется) — https://huggingface.co/bartowski/Rombo-Org_Rombo-LLM-V3.0-Qwen-72b-GGUF — https://huggingface.co/mradermacher/Rombo-LLM-V3.0-Qwen-72b-i1-GGUF
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Rombo-Org
Теги: qwen2, unsloth, conversational, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 34
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
