> ⚠️ Версия Q80 слишком велика для большинства айфонов (1,25 ГБ + накладные расходы). Выбирайте Q3K, чтобы получить наилучший баланс скорости и качества на мобильных устройствах. PocketPal — еще один отличный вариант для запуска моделей GGUF на iOS. Найдите «PocketPal» в App Store или посетите: 🔗 https://apps.apple.com/app/pocketpal/id6502573055 1. Установите PocketPal 2. Загрузите файл модели .gguf 3. Используйте AirDrop или приложение «Файлы» для передачи на iPhone 4. Откройте PocketPal → нажмите «Импортировать модель» → выберите файл 5. Приложение автоматически определит архитектуру модели 6. Начните ваш разговор — полностью локальный и конфиденциальный — Закройте другие приложения перед загрузкой модели, чтобы освободить оперативную память — Используйте Q3K для быстрого ответа — Держите iPhone подключенным к сети во время длительных сеансов вывода (разряд батареи — это нормально) — Более короткие ответы генерируются быстрее, чем длинные и сложные — Уменьшите контекстное окно** (512–1024 токенов), если вы испытываете низкую производительность Вся обработка происходит на вашем устройстве — ваши разговоры никогда не покидают ваш iPhone. После загрузки модели не требуется подключение к Интернету. Вы можете запустить эту модель локально, без Интернета, используя APK-версию Off-Grid. — Устройство Android (телефон или планшет) — Не менее 1 ГБ бесплатно…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: VLTX
Теги: gguf, vltx, sovereign, techina-x, void, verta-lily, en, endpoints_compatible
Лайков: 6 | Загрузок: 62,096
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
