> Модель скоро будет доступна для свободного скачивания! Эти модели недостаточно обучены и НЕ предназначены для завершения. Это только исследовательские артефакты. > Positronic — это причинно-языковая модель со 144 млн параметров и нестандартным блоком микширования каналов. Он сохраняет традиционную магистраль трансформатора для смешивания токенов (внимание), но заменяет послойный MLP квазимотоблоком: банком связанных фазовых генераторов (динамика Курамото), расположенных в концентрических кольцах, работающих на несколько дифференцируемых шагов Эйлера и считываемых через [cos θ, sin θ]. > Название «Позитроник» происходит от позитронного мозга Дейты из «Звездного пути» — намек на разум, построенный на нетрадиционной внутренней динамике, а не на стандартном стеке прямой связи. Это часть семейства моделей, которые задают единственный вопрос: может ли обобщающая способность трансформатора быть реализована необычной самоорганизующейся динамической системой вместо блока прямой связи? Positronic-144M сохраняет фиксированными токенизатор, характеристики и данные семейства и заменяет только микшер, так что это контролируемый эксперимент с родственными моделями Quazimoto (MyCel-LM). Это архитектура для исследований/хобби, а не серийная модель. На параметрах 144М и короткой тренировке…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение
Задача: Генерация текста
Автор: Quazim0t0
Теги: quazimoto, kuramoto, oscillator, custom-architecture, chatml, reasoning, en, endpoints_compatible
Лайков: 6 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.