Метка: quantization - Страница 14 - Каталог нейросетей

Метка: quantization

Генерация текста

SweatyCrayfish/llama-3-8b-quantized

В этом репозитории размещена 4-битная квантованная версия модели Llama 3. Эта модель, оптимизированная для сокращения использования памяти и...

Генерация текста

FINAL-Bench/Darwin-9B-MFP4

Квантование FP4 смешанной точности Darwin-9B-Opus, построенное на базе NVIDIA Blackwell NVFP4. Первый член семейства Darwin Mixed-Precision — квантование,...

Генерация текста

legraphista/Llama-3.1-Minitron-4B-Width-Base-GGUF

Статическое квантование Llama.cpp nvidia/Llama-3.1-Minitron-4B-Width-Base Исходная модель: nvidia/Llama-3.1-Minitron-4B-Width-Base Исходный тип dtype: BF16 (bfloat16) Квантование: llama.cpp b3600 Набор данных IMatrix:...

Генерация текста

legraphista/Codestral-22B-v0.1-IMat-GGUF

Иматричное квантование Llama.cpp для mistralai/Codestral-22B-v0.1 (legraphista/Codestral-22B-v0.1-hf-FIM-fix) Обновления: — 31.05.2024: исправления отсутствующих токенов FIM модели. Если файл модели большой,...

Генерация текста

Sepolian/Huihui-Qwen3.5-27B-Claude-4.6-Opus-abliterated-Q4_K_M

GGUF 4-битное преобразование huihui-ai/Huihui-Qwen3.5-27B-Claude-4.6-Opus-abliterated. Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: Sepolian Теги: gguf, quantization,...

Генерация текста

qep/qep-1bit-extreme

Модель генерации текста Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: qep Теги: cohere2, quantization, onebit,...

Генерация текста

mit-han-lab/nunchaku-t5

Этот репозиторий был перенесен на https://huggingface.co/nunchaku-tech/nunchaku-t5 и будет скрыт в декабре 2025 года. Этот репозиторий содержит квантованные нунчаку...

Генерация текста

legraphista/gemma-2-27b-it-IMat-GGUF

Исходная модель: google/gemma-2-27b-it Исходный тип dtype: BF16 (bfloat16) Квантизация: llama.cpp b3790 Набор данных IMatrix: здесь — Файлы —...