Phi-4-mini-flash-reasoning — это облегченная открытая модель, построенная на синтетических данных с упором на высококачественные, плотные данные, дополнительно доработанные для более продвинутых математических возможностей. Модель относится к семейству моделей Phi-4 и поддерживает длину контекста токена 64 КБ. 📰 Фи-4-мини-флэш-рассуждения Блог 📖 Фи-4-мини-флэш-рассуждения Бумага | HF Paper 📚 Учебная кодовая база 👩🍳 Поваренная книга Phi 🏡 Портал Phi 🚀 Вывод vLLM: V0: PR | Ветка V1: PR 🖥️ Попробуйте Azure Nvidia NIM 🎉Модели Phi-4: [Phi-4-мини-рассуждения] | [Фи-4-рассуждение] | [мультимодальная инструкция | оннкс]; [мини-инструкция | onnx] Последние достижения в языковом моделировании продемонстрировали эффективность моделей пространства состояний (SSM) для эффективного моделирования последовательностей. Хотя гибридные архитектуры, такие как Samba, и архитектура декодера-декодера YOCO продемонстрировали многообещающий прирост производительности по сравнению с трансформаторами, предыдущие работы не исследовали потенциал эффективности совместного использования представлений между уровнями SSM. В этой статье мы представляем Gated Memory Unit (GMU) — простой, но эффективный механизм эффективного совместного использования памяти между уровнями. Мы применяем его для создания SambaY, архитектуры декодер-гибрид-декодер, которая включает в себя…
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Диалог / чат
Задача: Генерация текста
Автор: microsoft
Теги: phi4flash, nlp, math, code, conversational, custom_code, en
Лайков: 269 | Загрузок: 1,713
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
