Это демонстрационная версия модели иерархического мышления, новой рекуррентной архитектуры, вдохновленной иерархической и многовременной обработкой в человеческом мозге. Модель иерархического рассуждения (HRM) обеспечивает значительную вычислительную глубину при сохранении как стабильности, так и эффективности обучения. Эта демонстрационная версия демонстрирует основные архитектурные принципы с 14 684 136 параметрами. — Иерархическая обработка: два взаимозависимых модуля для абстрактного планирования и подробных вычислений — Многомасштабное рассуждение: высокоуровневая медленная обработка и низкоуровневая быстрая обработка — Кросс-модуль Внимание: Обеспечивает иерархическое рассуждение между уровнями обработки — Эффективный дизайн: Достигает высокой эффективности рассуждений с минимальными параметрами — Параметры: 14 684 136 — Скрытый размер: 512 — Слои: 6 — Размер словаря: 1000 Эта демонстрационная модель была обучена по моделируемой причине
Модальности:
Генерация текста
Области применения:
Математика Логика и рассуждение
Задача: Генерация текста
Автор: Ex0bit
Теги: HRM_Demo, reasoning, hierarchical, sudoku, mathematics, artificial-intelligence, en
Лайков: 4 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
