Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Эта модель была протестирована с помощью text-generation-webui. Я использую предустановленный minp` с температурой = 1 для генерации. Этого формата необходимо строго придерживаться, поскольку отклонения могут привести к менее оптимальным результатам модели. Шаблон, используемый для создания приглашения для модели инструкций, указан следующим образом: Для части «{SYSTEM_PROMPT}» вы можете использовать «あなたは誠実で優秀な日本人のアシスタントです。» или «Вы полезный помощник». Для части «{USER_MESSAGE}» мы рекомендуем использовать {instruction}n{input}. Эта модель была объединена с использованием метода слияния Model Stock с использованием cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese в качестве основы. В объединение были включены следующие модели: — abeja/ABEJA-Qwen2.5-32b-Japanese-v0.1 — AXCXEPT/EZO-AutoCoTRAG-Qwen2.5-32B-Instruct — deepseek-ai/DeepSeek-R1-Distill-Qwen-32B — FuseAI/FuseO1-DeepSeekR1-QwQ-SkyT1-Flash-32B-Preview — FuseAI/FuseO1-DeepSeekR1-Qwen2.5-Coder-32B-Preview — karakuri-ai/karakuri-lm-32b-thinking-2501-exp — NovaSky-AI/Sky-T1-32B-Flash — Qwen/QwQ-32B-Preview 🔧 ХАК: попробуйте изменить config.json` с AXCXEPT/EZO-AutoCoTRAG-Qwen2.5-32B-Instruct на AXCXEPT/EZO-Qwen2.5-32B-Instruct. Следующее…
Модальности:
Генерация текста
Области применения:
Диалог / чат Логика и рассуждение
Задача: Генерация текста
Автор: nitky
Теги: qwen2, mergekit, merge, conversational, ja, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
