— запустите его с помощью gguf-коннектора; просто выполните команду ниже в консоли/терминале > > доступные файлы GGUF. Выберите, какой из них использовать: > >1. fastvlm-0.5b-iq4nl.gguf >3. fastvlm-0.5b-q40.gguf >4. fastvlm-0.5b-q80.gguf > >Введите свой выбор (от 1 до 3): > — выберите файл gguf в вашем текущем каталоге для взаимодействия с ним; ничего больше! скриншот для последнего обновления, вы сможете настроить количество токенов для вывода (см. рисунок) — обратите внимание: f5 отличается от f6 (вверху) и f9 (ниже); вам не нужны файлы gguf с помощью f5 !screenshot ** для расширенного режима можно указать текстовую подсказку с вводом изображения (см. выше)
Модальности:
Генерация текста
Задача: Генерация текста
Автор: gguf-org
Теги: gguf, gguf-connector
Лайков: 12 | Загрузок: 472
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
