GigaChat 3.5 Ultra — флагманская модель мгновенного обмена сообщениями семейства GigaChat. Это крупномасштабная модель «Смесь экспертов» (MoE) с общим числом параметров 432B, построенная на специальной архитектуре гибридного внимания, которая сочетает в себе многоголовое скрытое внимание (MLA) и уровни линейного внимания GatedDeltaNet. Модель ориентирована на рабочие нагрузки многоязычного помощника, рассуждения, код, сценарии использования агентов/инструментов и развертывание в больших кластерах. По сравнению с предыдущим флагманом GigaChat 3.1 Ultra (700B), версия 3.5 примерно на 40% компактнее, но при этом более эффективна в кодировании, математике и агентных сценариях. Он также использует примерно в 4 раза меньше KV-кэша на токен, помещает в ту же память более чем в 2 раза больше контекста и повышает пропускную способность генерации примерно на 20%. Этот репозиторий включает контрольные точки со всех основных этапов обучения. Финальная базовая и моментальная модели доступны в отдельных репозиториях. Для окончательной мгновенной модели используйте версию fp8: GigaChat3.5-432B-A28B. Также доступна версия модели инструкции Bf16 GigaChat3.5-432B-A28B-bf16. Также доступна версия GGUF — GigaChat3.5-432B-A28B-GGUF. GigaChat 3.5 Ultra использует специальную архитектуру MoE. Основное изменение по сравнению с версией 3.1 — это гибридная архитектура собственной разработки и соответствующая…
Модальности:
Генерация текста
Области применения:
Следование инструкциям Вызов функций (Tool use) Мультиязычность Диалог / чат
Задача: Генерация текста
Автор: ai-sage
Теги: instruct, moe, multilingual, long-context, tool-use, hybrid-attention, linear-attention, mtp
Лайков: 6 | Загрузок: 24
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
