Mungert/Llama-3.1-8B-Instruct-GGUF - Каталог нейросетей
Генерация текста

Mungert/Llama-3.1-8B-Instruct-GGUF

Добавлено:
Mungert/Llama-3.1-8B-Instruct-GGUF

Эта модель была создана с использованием llama.cpp при фиксации adef8178. Помогите мне протестировать мой помощник по квантовому сетевому монитору на базе искусственного интеллекта с готовыми к квантовым проверкам безопасности: Полный открытый исходный код для службы квантового сетевого монитора доступен в моих репозиториях на GitHub (репозитории с NetworkMonitor в названии): Исходный код Quantum Network Monitor. Вы также найдете код, который я использую для квантования моделей, если хотите сделать это самостоятельно GGUFModelBuilder 💬 Как протестировать: выберите тип помощника ИИ: — TurboLLM (GPT-4.1-mini) — HugLLM (модели с открытым исходным кодом Hugginface) — TestLLM (только для экспериментальных процессоров) Я расширяю границы небольших моделей с открытым исходным кодом для мониторинга сети ИИ, в частности: — Вызов функций для живых сетевых сервисов — Насколько малы могут быть модель работает, продолжая обрабатывать: — Автоматическое сканирование безопасности Nmap — Проверки готовности Quantum — Задачи сетевого мониторинга 🟡 TestLLM — Текущая экспериментальная модель (llama.cpp на 2 потоках ЦП в пространстве докера Huggingface): — ✅ Настройка с нулевой конфигурацией — ⏳ Время загрузки 30 секунд (медленный вывод, но без затрат на API). Никаких ограничений по токенам нет, поскольку стоимость низкая. — 🔧 Требуется помощь! Если вам интересен искусственный интеллект на периферийных устройствах, давайте сотрудничать! 🟢 TurboLLM – использует gpt-4.1-mini: – Работает очень хорошо…

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям


Задача: Генерация текста
Автор: Mungert
Теги: gguf, facebook, meta, llama, llama-3, en, de, fr
Лайков: 7  |  Загрузок: 190

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.