GIGABATEMAN-7B-GGUF
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: DZgas Теги: gguf, quantized, 2-bit, 4-bit, 5-bit, 6-bit, 8-bit,...
Метка: 8-bit
Merged-RP-Stew-V2-34B_exl2_8.0bpw
Это квант EXL2 с битрейтом 8,0 бит/вт ParasiticRogue/Merged-RP-Stew-V2-34B. Подробности о модели и информацию о слиянии можно найти на...
Qwen1.5-72B-Chat-GPTQ-Int8
Qwen1.5 — это бета-версия Qwen2, языковой модели только для декодера на основе преобразователя, предварительно обученной на большом объеме...
Skywork-13B-Base-8bits
👨💻 Github • 🤗 Hugging Face• 🤖 ModelScope • 💬 WeChat• 📜Технический отчет Skywork-13B-Base может быть заменен 量清洗过滤的3.2万亿个多语言（主要是中文和英文）和代码数据上进行预训练，它在多种评测和各种基准测试上都展现了同等规模模型的最佳效果。...
Qwen-14B-Chat-Int8
🤗 Обнимающее лицо   |   🤖 ModelScope   |    📑 Бумага    ｜   🖥️ Демо WeChat (微信)   |   Discord  ...
Llama-2-7b-chat-hf-hosted-inference-8bit
Это просто 8-битная версия модели Ламы-2-7Б. — 8-бит позволяет модели иметь размер менее 10 ГБ. — Это позволяет...
gpt-j-6B-8bit-sharded
Это версия hivemind/gpt-j-6B-8bit для загрузки с низким объемом оперативной памяти, т. е. бесплатная среда выполнения Colab 🙂 Для...
Qwen3.6-35B-A3B-MLX-oQ8
Эта модель была преобразована в формат MLX и квантована из Qwen3.6-35B-A3B с использованием oMLX. «VL» — это язык...
translategemma-12b-it-8bit
Эта модель mlx-community/translategemma-12b-it-8bit была конвертирована в формат MLX из google/translategemma-12b-it с использованием mlx-lm версии 0.29.1. Модальности:Генерация текста Области...
GLM-4.5-Air-Derestricted-W8A8-INT8
GLM-4.5-Air-Derestricted — это версия GLM-4.5-Air с ограниченными ограничениями, созданная Arli AI. Наша цель в этом выпуске — предоставить...