stablelm-tuned-alpha-7b-sharded-8bit
Это шардированная контрольная точка (с ~4 ГБ шардов) модели stabilityai/stablelm-tuned-alpha-7b с 8-битной точностью с использованием битов и байтов....
Это шардированная контрольная точка (с ~4 ГБ шардов) модели stabilityai/stablelm-tuned-alpha-7b с 8-битной точностью с использованием битов и байтов....
Это мультимодель Salesforce Codegen 2B, перенесенная в ggml и квантованная для выполнения с помощью турбопилота. Пожалуйста, обратитесь к...
Это мультимодель Codegen 350M от Salesforce, перенесенная в ggml и квантованная для выполнения с помощью турбопилота. Пожалуйста, обратитесь...
Tested with vLLM 0.32.0rc1 (a development build). Every result below was measured with thinking off; BFCL-v3 ran at...
GGUF files of orcarouter/LFM3-1.7B-abliterated for llama.cpp. Nothing here was trained or abliterated. The BF16 file is a format...
TTQ (TokenTinkerer Quant) is an eleven-rung GGUF ladder for GrootTeam/Groot-19B-A3B-261023, from 3.56 bpw to 8.50 bpw (7.88 →...
An unofficial, text-only GGUF conversion of SenseNova’s SenseNova-Loop-9B-Preview, packaged by notfakerv. Original model development, training, and weights are...
GGUF builds of inclusionAI’s Ling 3.1 flash 1019, with the multi-token prediction head inside. The calibration corpora behind...
> Built with mlx-optiq, the MLX-native toolkit to quantize, fine-tune, and serve LLMs locally on Apple Silicon, no...
Spark-X2.6-4B (4.11 B dense, hybrid attention: 9 full layers + 27 sliding-window layers of 512 tokens, 1M-token context,...