falcon-7b-8bit
This repository is home to the 8-bit of Falcon-7B model, converted from its original model (https://huggingface.co/tiiuae/falcon-7b). Falcon-7B is...
This repository is home to the 8-bit of Falcon-7B model, converted from its original model (https://huggingface.co/tiiuae/falcon-7b). Falcon-7B is...
Модель генерации текста Модальности:Генерация текста Области применения:Генерация кода Задача: Генерация текста Автор: cassanof Теги: gpt2, custom_code, text-generation-inference, endpoints_compatible,...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: beomi Теги: gpt_neox, polyglot-ko, ko, text-generation-inference, endpoints_compatible, 8-bitЛайков: 2...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: rycont Теги: gptj, endpoints_compatible, 8-bitЛайков: 2 | Загрузок: 13...
Это шардированная контрольная точка (с ~4 ГБ шардов) модели stabilityai/stablelm-tuned-alpha-7b с 8-битной точностью с использованием битов и байтов....
Derived directly from Nanbeige/Nanbeige4.3-33B, revision c1093c501cc6460427c0ac634db7223d0450c0ee. The original 14 weight shards were verified against the upstream LFS SHA256...
An Apple-Silicon MLX pack of Recursive Flint, a 39.8B-total / 2.5B-active coding-agent MoE. Pack size: ~31 GB. Recommended...
An MLX 8-bit version of Aleph-Alpha/Kolibri-1, for Apple Silicon. Aleph Alpha’s Kolibri 1 is a German/English reasoning MoE:...
Disclaimer on MLX Patcher — Provided as-is, no warranty of any kind. Read the code before running —...
W4AFP8 quantization of zai-org/GLM-5.3-Flash: routed MoE expert weights in INT4 (group-128, symmetric, AWQ-calibrated) with static per-tensor FP8 activation...