Выпуск сообщества без цензуры на основе Swift 1.5 Qwen3.8-27B, упакованный в собственный формат NInfer со смешанными весами NVFP4/FP8 и встроенной головой спекулятивного декодирования DFlash2 K=7. Целевая модель использует однонаправленное преобразование в стиле OrcaRouter, полученное из контрольной точки Swift 1.5. Это сторонний релиз, а не официальный контрольно-пропускной пункт UkisAI или OrcaRouter. Комплектная головка DFlash2 поставляется из вышестоящего компаньона Qwen3.8 DFlash2 и не была переобучена специально для Swift 1.5, поэтому спекулятивное принятие зависит от рабочей нагрузки. Файл модели: Swift-1.5-Qwen3.8-27B-OrcaRouter-NVFP4-DFlash2.ninfer > Совместимость во время выполнения: эта загрузка представляет собой артефакт контейнера NInfer v2. Пример был валидирован с помощью версии NInfer d4929686; в корпусном тесте использовался 03177b91. Используйте v2-совместимую сборку с поддержкой Qwen3.8-27B NVFP4 и DFlash2. Текущий восходящий поток требует артефактов v3; сборка только v3 не является загрузчиком для этого файла. Эти результаты теста относятся к неизменной загрузке v2, а не к более позднему преобразованию формата. Используйте совместимую сборку NInfer с поддержкой Qwen3.8-27B NVFP4 и DFlash2. Это не GGUF и не может быть загружено напрямую с трансформаторами или llama.cpp. Добавьте…
Модальности:
Генерация текста
Языки программирования:
Swift
Задача: Генерация текста
Автор: Yuuyuuyuuyuu
Теги: ninfer, qwen3_8, nvfp4, dflash2, speculative-decoding, quantized, uncensored
Лайков: 3 | Загрузок: 1,669
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
