Эта модель была квантована из fdtn-ai/Foundation-Sec-8B-Reasoning в 8-битную (Q80) контрольную точку GGUF с использованием llama.cpp. Он сохраняет специализацию в области кибербезопасности исходной модели с 8 миллиардами параметров, одновременно уменьшая объем памяти примерно с 16 ГБ (BF16) до примерно 8,54 ГБ (Q80) для вывода. fdtn-ai/Foundation-Sec-8B-Reasoning-Q80-GGUF — это 8-битный квантованный вариант Foundation-Sec-8B-Reasoning — модели на основе LLaMA 3.1 с 8B параметрами, которая расширяет базовую модель Foundation-Sec-8B** возможностями следования инструкциям и рассуждений. Базовая модель была подвергнута предварительному обучению на тщательно подобранном корпусе текстов, посвященных кибербезопасности (например, CVE, отчеты об угрозах, описания эксплойтов, руководства по обеспечению соответствия). Foundation-Sec-8B-Reasoning оптимизирован для трех основных категорий вариантов использования: — Ускорение SOC: автоматизация сортировки, обобщения, создания заметок и сбора доказательств. — Проактивная защита от угроз: моделирование атак, определение приоритетов уязвимостей, отображение TTP и моделирование поведения злоумышленников. — Инженерная поддержка: предоставление помощи в обеспечении безопасности, проверка конфигураций, оценка доказательств соответствия и улучшение состояния безопасности. Вместо повторной загрузки или…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: fdtn-ai
Теги: gguf, llama, security, llama-cpp, gguf-my-repo, conversational, en, endpoints_compatible
Лайков: 6 | Загрузок: 902
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.