Quazim0t0/Positronic-144M - Каталог нейросетей
Генерация текста

Quazim0t0/Positronic-144M

Добавлено:
Quazim0t0/Positronic-144M

> Модель скоро будет доступна для свободного скачивания! Эти модели недостаточно обучены и НЕ предназначены для завершения. Это только исследовательские артефакты. > Positronic — это причинно-языковая модель со 144 млн параметров и нестандартным блоком микширования каналов. Он сохраняет традиционную магистраль трансформатора для смешивания токенов (внимание), но заменяет послойный MLP квазимотоблоком: банком связанных фазовых генераторов (динамика Курамото), расположенных в концентрических кольцах, работающих на несколько дифференцируемых шагов Эйлера и считываемых через [cos θ, sin θ]. > Название «Позитроник» происходит от позитронного мозга Дейты из «Звездного пути» — намек на разум, построенный на нетрадиционной внутренней динамике, а не на стандартном стеке прямой связи. Это часть семейства моделей, которые задают единственный вопрос: может ли обобщающая способность трансформатора быть реализована необычной самоорганизующейся динамической системой вместо блока прямой связи? Positronic-144M сохраняет фиксированными токенизатор, характеристики и данные семейства и заменяет только микшер, так что это контролируемый эксперимент с родственными моделями Quazimoto (MyCel-LM). Это архитектура для исследований/хобби, а не серийная модель. На параметрах 144М и короткой тренировке…

Модальности:
Генерация текста

Области применения:
Логика и рассуждение


Задача: Генерация текста
Автор: Quazim0t0
Теги: quazimoto, kuramoto, oscillator, custom-architecture, chatml, reasoning, en, endpoints_compatible
Лайков: 6  |  Загрузок: 0

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.