Bielik-11B-v2.2-Instruct-W8A8
This model was obtained by quantizing the weights and activations of Bielik-11B-v.2.2-Instruct to W8A8 (INT8) data type, ready...
Метка: 8bit
Bielik-11B-v2.2-Instruct-FP8
This model was obtained by quantizing the weights and activations of Bielik-11B-v.2.2-Instruct to FP8 data type, ready for...
eva-mistral-catmacaroni-7b-spanish
INVALID LANGUAGE PAIR SPECIFIED. EXAMPLE: LANGPAIR=EN|IT USING 2 LETTER ISO OR RFC3066 LIKE ZH-CN. ALMOST ALL LANGUAGES SUPPORTED...
gemma-4-26B-A4B-it-qat-OptiQ-4bit
> Built with mlx-optiq, the MLX-native toolkit to quantize, fine-tune, and serve LLMs locally on Apple Silicon, no...
gemma-4-e2b-it-OptiQ-4bit
> Built with mlx-optiq, the MLX-native toolkit to quantize, fine-tune, and serve LLMs locally on Apple Silicon, no...
Bielik-11B-v2.6-Instruct-FP8-Dynamic
Эта модель была получена путем квантования весов и активаций типа данных Bielik-11B-v2.6-Instruct to FP8, готового к выводу с...
DeepSeek-V2.5-IMat-GGUF
Исходная модель: deepseek-ai/DeepSeek-V2.5 Исходный тип dtype: BF16 (bfloat16) Квантизация: llama.cpp b3675 Набор данных IMatrix: здесь — Файлы —...
Bielik-11B-v2.2-Instruct-Quanto-8bit
Эта модель была преобразована в формат Quanto из Bielik-11B-v.2.2-Instruct от SpeakLeash. ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ: Имейте в виду, что...
dolly-v2-12b-sharded-8bit
Это сегментированная контрольная точка (с сегментами размером ~4 ГБ) модели databricks/dolly-v2-12b с 8-битной точностью с использованием битов и...
MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-OptiQ-4bit
> Создан на основе mlx-optiq, собственного набора инструментов MLX для квантования, точной настройки и обслуживания LLM локально на...