Typhoon2.5-Qwen3-4B — это большая модель тайского 🇹🇭 языка с 4 миллиардами параметров, длиной контекста 256 тыс. и возможностями вызова функций. Он основан на Qwen3 4B. Используя эту модель, вы соглашаетесь с Условиями и положениями OpenTyphoon и признаете Уведомление о конфиденциальности: https://opentyphoon.ai/tac · https://opentyphoon.ai/privacy — Тип модели: модель 4B, предназначенная только для декодера инструкций, основанная на архитектуре Qwen3. — Требование: трансформеры 4.51.0 или новее. — Основной язык(и): тайский 🇹🇭 и английский 🇬🇧 — Длина контекста: 256 КБ — Лицензия: лицензия Apache 2.0 В этом фрагменте кода показано, как использовать модель Typhoon2.5-Qwen3-4B для генерации текста на тайском или английском языке с использованием библиотеки преобразователей. Он включает в себя настройку модели и токенизатора, форматирование сообщений чата в стиле системного пользователя и генерацию ответа. В этом разделе показано, как запустить Typhoon2.5 в качестве сервера API, совместимого с OpenAI, с помощью vllm. Вы можете предоставить инструменты API-интерфейсу, совместимому с OpenAI на базе vLLM, для обеспечения функциональности. Для этой модели мы рекомендуем вам использовать низкую температуру и установить «repetition_penalty» = 1,05, чтобы улучшить производительность и уменьшить повторение. Данная модель является обучающей. Однако оно все еще продолжается…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: typhoon-ai
Теги: qwen3, conversational, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 153,964
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
