Экспорт ONNX LFM2.5-1.2B-Thinking для кросс-платформенного вывода. LFM2.5-Thinking — это модель рассуждения, которая генерирует поэтапное мышление перед выдачей окончательных ответов. Модель выводит процесс рассуждения в тегах …, за которым следует окончательный ответ. Этот подход повышает точность решения сложных задач, таких как математика, кодирование и логические рассуждения. 1. Chrome/Edge: перейдите к chrome://flags/#enable-unsafe-webgpu, включите и перезапустите 2. Проверьте: проверьте chrome://gpu на наличие статуса «WebGPU» 3. Тестируйте: запустите navigator.gpu.requestAdapter() в консоли DevTools. — Рекомендуется: modelq4.onnx для лучшего баланса производительности и качества. — Для более высокого качества: modelfp16.onnx — модели используют внешние файлы данных. (.onnxdata), которые загружаются автоматически — тензоры int64 требуют BigInt64Array` — модели рассуждения могут генерировать более длинные выходные данные; при необходимости отрегулируйте максимальное количество токенов 1. Мышление: внутренние рассуждения, заключенные в теги … 2. Ответ: окончательный ответ после закрывающего тега
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: LiquidAI
Теги: onnx, lfm2, liquid, edge, lfm2.5, thinking, reasoning, onnxruntime
Лайков: 17 | Загрузок: 940
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
