Qwen1.5-4B-Chat-GPTQ-Int8
Qwen1.5 — это бета-версия Qwen2, языковой модели только для декодера на основе преобразователя, предварительно обученной на большом объеме...
Метка: 8-bit
querypls-prompt2sql
Querypls-Prompt2SQL — это модель генерации текста в SQL, разработанная samadpls. Он предназначен для генерации SQL-запросов на основе подсказок...
Larth-Mistral
Ларт-Мистраль — первая LLM, основанная на этрусском языке, доработанная на основе 1087 оригинальных надписей. Ларт-Мистраль поддерживает межъязыковые инструкции...
falcon-40b-instruct-8bit
ИНФОРМАЦИЯ: Эта модель представляет собой модель Falcon-40B-Instruct, квантованную с использованием битов и байтов. Это сэкономит вам около 40...
DeepSeek-V4-Flash-DSpark-4E
Это контрольная точка DeepSeek-V4-Flash-DSpark — модель MoE 284B с модулем спекулятивного декодирования (DSpark), настроенная и оцененная с помощью...
Qwen3.6-27B-NVFP4-GPTQ
В этом репозитории размещена квантованная версия модели Qwen3.6-27B NVFP4. Процесс квантования выполнялся с использованием llm-compressor с использованием стратегии...
ZAYA1-8B-BNB
> Примечание. ZAYA1-8B использует собственную разреженную архитектуру MoE (ZayaForCausalLM), которая еще не поддерживается llama.cpp. Файлы GGUF будут добавлены...
Qwen3.6-35B-A3B-MLX-VL-oQ8-FP16
Эта модель была преобразована в формат MLX и квантована из Qwen3.6-35B-A3B с использованием oMLX. «VL» — это язык...
Qwen3.6-35B-A3B-UD-Q8_K_XL-mlx
8-битное базовое квантование смешанной точности Qwen/Qwen3.6-35B-A3B для Apple Silicon с использованием стратегии квантования Unsloth Dynamic через mlx-node. Проведено...
Qwen3-1.7B-GPTQ-Int8
Qwen3 — это последнее поколение больших языковых моделей в серии Qwen, предлагающее полный набор моделей с плотным доступом...