LLM Cogito v2.1 представляют собой генеративные модели, настроенные на инструкции. Все модели выпускаются по открытой лицензии для коммерческого использования. — Модели Cogito v2.1 представляют собой гибридные модели рассуждения. Каждая модель может отвечать напрямую (стандартный LLM) или размышлять перед ответом (например, модели рассуждения). — LLM обучаются с использованием итеративной дистилляции и амплификации (IDA) – масштабируемой и эффективной стратегии согласования сверхинтеллекта с использованием итеративного самосовершенствования. — Модели оптимизированы для кодирования, STEM, выполнения инструкций, общей полезности и возможностей вызова инструментов. — Эта модель обучена на более чем 30 языках и поддерживает длину контекста 128 КБ. Вот производительность модели в некоторых стандартных отраслевых тестах: Эта контрольная точка представляет собой модель Mixture of Experts с параметром 671B в формате BF16, параметры которой занимают около 1,3 ТБ. Для запуска этой модели вам понадобится как минимум 8 B200 (1 узел) или 16 H200 (2 узла). Для показа на 8 H200 используйте квантованную версию: deepcogito/cogito-671b-v2.1-FP8. Модели Cogito поддерживают вызов инструментов (одиночный, параллельный, множественный и параллельный_множественный) как в стандартном, так и в расширенном режиме мышления. Затем вы можете сгенерировать текст из этого…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: deepcogito
Теги: deepseek_v3, conversational, custom_code, text-generation-inference, endpoints_compatible
Лайков: 29 | Загрузок: 86
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
