Typhoon2.1-Gemma3-12B — это большая модель тайского 🇹🇭 языка с 12 миллиардами параметров, длиной контекста 128 КБ и возможностями вызова функций. Он основан на Gemma3 12B. Примечание. Это текстовая модель. Мы удалили видеокодер из этой версии из-за сложности. Следите за обновлениями для версии с кодировщиком изображения в ближайшее время. — Тип модели: модель только для декодера инструкций 12B, основанная на архитектуре Gemma3. — Требование: трансформеры 4.50.0 или новее. — Основной язык(и): тайский 🇹🇭 и английский 🇬🇧 — Длина контекста: 128 КБ — Лицензия: Gemma License В этом фрагменте кода показано, как использовать модель Typhoon2.1-Gemma3-12B для генерации текста на тайском или английском языке с использованием библиотеки преобразователей. Он включает в себя настройку модели и токенизатора, форматирование сообщений чата в стиле системного пользователя и генерацию ответа. В этом разделе показано, как запустить Typhoon2.1 в качестве сервера API, совместимого с OpenAI, с помощью vllm. Вы можете предоставить инструменты API-интерфейсу, совместимому с OpenAI на базе vLLM, для обеспечения функциональности. Тайфун поддерживает два режима: Режим «Без раздумий» (по умолчанию): быстрая генерация ответа без дополнительных рассуждений. Режим мышления: модель сначала рассуждает внутренне, а затем дает более ясный и потенциально более точный окончательный ответ.…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: typhoon-ai
Теги: gemma3_text, conversational
Лайков: 19 | Загрузок: 12,275
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
