ELYZA-Shortcut-1.0-Qwen-32B — не рассуждающая модель, полученная при разработке рассуждающей модели ELYZA-Thinking-1.0-Qwen-32B. На основе Qwen/Qwen2.5-32B-Instruct эта модель была обучена обходить пошаговый процесс рассуждений и напрямую генерировать окончательный ответ (построенный с помощью Qwen). На этапе после обучения модель обучалась с помощью контролируемой тонкой настройки (SFT) с использованием пар проблема-решение. Эти пары были получены путем удаления этапов рассуждения из оптимальных путей рассуждения, исследованных с помощью алгоритма поиска по дереву Монте-Карло (MCTS). Для получения более подробной информации, пожалуйста, обратитесь к нашему сообщению в блоге. Модель можно использовать с библиотекой Hugging Face Transformers. Следующий код является примером того, как использовать модель для вывода. Для развертывания vLLM рекомендуется создать OpenAI-совместимый сервер.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: elyza
Теги: qwen2, conversational, ja, en, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 97
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
