В этом документе представлены технические характеристики, методологии обучения и архитектура вывода для модели MAXWELL. Представленные данные являются эмпирическими и сосредоточены исключительно на архитектурных параметрах и наблюдаемом поведении вычислений. MAXWELL — это усовершенствованный специализированный вариант архитектуры Qwen2.5-Math-1.5B-Instruct. Он оптимизирован для высокоточных аналитических рассуждений, математических вычислений и решения физических задач. Модель была обучена с использованием 4-битного квантования с помощью платформы Unsloth, а затем объединена в 16-битный формат для обеспечения стабильности развертывания. MAXWELL уникально разработан для работы в рамках специальной структуры вывода, определяемой как синтез систематического температурного анализа (STSS). Этот метод заменяет стандартную однократную авторегрессионную генерацию двухфазным протоколом метарассуждений для эмпирического снижения частоты галлюцинаций. Вместо выборки при фиксированной температуре платформа заставляет модель генерировать набор возможных ответов mathcal{S} по определенной температурной сетке. Gtau: низкая энтропия (T in [0,1, 0,3]): обеспечивает выбор токенов с высокой вероятностью, изолируя полученные априорные данные обучения и жесткие шаблонные структуры. Высокий…
Модальности:
Генерация текста
Области применения:
Математика Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: Xerv-AI
Теги: qwen2, stem, mathematics, physics, unsloth, qwen2.5-math, reasoning, stss-framework
Лайков: 5 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
