Trinity-Large-Thinking — это оптимизированный для рассуждений вариант семейства Trinity-Large от Arcee AI — разреженной модели Mixture of Experts (MoE) с 398B параметрами и примерно 13B активных параметров на токен, прошедших постобучение с расширенной цепочкой рассуждений и агентным RL. Этот репозиторий содержит блочно-квантованные веса Trinity-Large-Thinking (веса и активации FP8 с масштабированием для каждого блока). Полную информацию о модели, тесты и рекомендации по использованию см. в основной карточке модели Trinity-Large-Thinking. — Схема: блок FP8 (веса и активации FP8, масштабирование по блокам с форматом шкалы E8M0) — Формат: сжатые тензоры — Назначение: высокопроизводительное развертывание FP8 с качеством практически без потерь, оптимизированным для графических процессоров NVIDIA Hopper/Blackwell — Поддерживаемые серверные части: DeepGEMM, vLLM CUTLASS, Triton Поддерживается в vLLM 0.18.0+ с DeepGEMM FP8 MoE ускорение. На OpenRouter «из коробки» работает как arcee-ai/trinity-large-thinking. Trinity-Large-Thinking-FP8-Block выпускается под лицензией OpenMDW версии 1.1 (OpenMDW-1.1).
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: arcee-ai
Теги: afmoe, reasoning, agentic, tool-calling, thinking, conversational, custom_code, en
Лайков: 9 | Загрузок: 1,160
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
