arcee-ai_Trinity-Mini-GGUF
Исходная модель: https://huggingface.co/arcee-ai/Trinity-Mini. Все кванты созданы с использованием опции imatrix с набором данных отсюда в сочетании с подмножеством...
Метка: es
walledguard-edge
— 🔥WalledGuard-Edge — это модель с открытым исходным кодом с параметром 0,6B (лицензия Apache 2.0), которая превосходит Llamaguard3...
SmolLM3-3B-Base
Unsloth Dynamic 2.0 обеспечивает превосходную точность и превосходит другие ведущие методы количественного анализа. 1. Краткое описание модели 2....
Devstral-Small-2507-unsloth-bnb-4bit
> [!NOTE] > Вам следует использовать —jinja, чтобы включить системное приглашение в llama.cpp. Devstral 1.1 с поддержкой вызова...
SmolLM3-3B-MLX-8bit
👾 Программа лучших моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в...
AFM-4.5B-Preview
> Это веса предварительной модели, размещенной на TogetherAI с 18 июня по 28 июля. Контрольную точку окончательного выпуска,...
Devstral-Small-2505-fp8
Идеально подходит для работы в системе с двумя графическими процессорами, такой как 2×3090, с vLLM или SGlang: vllm...
Falcon-H1-3B-Base
0. TL;DR 1. Подробности модели 2. Подробности обучения 3. Использование 4. Оценка 5. Цитирование — Разработано: https://www.tii.ae —...
rwkv7-2.9B-world-GGUF
Выбор правильного формата модели зависит от возможностей вашего оборудования и ограничений памяти. — 16-битный формат с плавающей запятой,...
Falcon3-10B-Instruct-abliterated-GGUF
Исходная модель: https://huggingface.co/huihui-ai/Falcon3-10B-Instruct-abliterated Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в котором...