Преобразование Apple Core AI (.aimodel) Qwen/Qwen3.6-35B-A3B (декодер текста): гибрид Qwen3.5 GatedDeltaNet + тело закрытого внимания с редким МО из топ-8 из 256 экспертов (+ общий эксперт). Всего 35B / ~3B активных на каждый токен. Часть зоопарка моделей Core AI сообщества: https://github.com/john-rocky/coreai-model-zoo (полная карта: Zoo/qwen3.6.md). ⚡ Одна строка — запустите задачу комплекта на этой модели (импорт CoreAIOps; без сеанса, без сборки модели, загрузка при первом использовании): ▶️ Запустите (исходный код) — бегун ChatDemo (GUI + CLI, одно приложение для каждой модели чата в каталоге): 💻 Сборка с ним — завершена; связующим звеном является API-интерфейс набора, выполняется копирование и вставка: также работает за API FoundationModels от Apple — KitLanguageModel от CoreAIKit подключает этот пакет к системе LanguageModelSession; возможности (вызов инструмента, управляемая генерация) автоматически определяются для каждой модели. В качестве примера можно привести Samples/ChatDemo/Sources/QuickStart.swift — этот точный код в виде одной типизированной функции, без пользовательского интерфейса; CLI представляет собой оболочку аргументов, а графический интерфейс управляет одним и тем же сеансом ChatSession для его транскрипта. Многооборотный? Удерживайте ChatSession и вызывайте ответ(to:) за ход — сохраняется история разговоров; streamResponse(to:) выдает токены по мере их декодирования. -…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mlboydaisuke
Теги: core-ai, coreai-aimodel, coreml, apple, moe, on-device, metal
Лайков: 5 | Загрузок: 71
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
