FastThink-0.5B-Tiny — это модель, ориентированная на рассуждения, основанная на Qwen2.5. Мы выпустили ряд базовых языковых моделей и языковых моделей, настраиваемых с помощью инструкций, охватывающих от 0,5 до 72 миллиардов параметров. Qwen2.5 представляет следующие улучшения по сравнению с Qwen2: — Значительно расширенные знания и значительно улучшенные возможности в области кодирования и математики благодаря специализированным экспертным моделям в этих областях. — Значительные улучшения в следовании инструкциям, генерации длинных текстов (более 8 000 токенов), понимании структурированных данных (например, таблиц) и генерации структурированных выходных данных, особенно JSON. Он более устойчив к разнообразным системным запросам, что улучшает реализацию ролевых игр и настройку условий для чат-ботов. — Поддержка длинного контекста до 128 000 токенов и возможность генерировать выходные данные до 8 000 токенов. — Многоязычная поддержка более чем 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие. Архитектура: трансформаторы с RoPE, SwiGLU, RMSNorm, смещением внимания QKV и встраиванием связанных слов. Здесь представлен фрагмент кода с шаблоном applychat, показывающий, как загрузить токенизатор и…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: prithivMLmods
Теги: onnx, qwen2, text-generation-inference, Reasoner, cot, conversational, en, endpoints_compatible
Лайков: 7 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
